Generative Machine-Learning-Systeme überfordern uns alle

Bei meiner Keynote an der PH Zürich Anfangs 2024 zum Thema generative Maschine-Learning-Systeme (GMLS) in der Bildung und insbesondere in der Lehrer:innen-Bildung hatte ich Empfehlungen formuliert, was angesichts von GMLS …

 

Bei meiner Keynote an der PH Zürich Anfangs 2024 zum Thema generative Maschine-Learning-Systeme (GMLS) in der Bildung und insbesondere in der Lehrer:innen-Bildung hatte ich Empfehlungen formuliert, was angesichts von GMLS zu tun sei. Die erste Empfehlung lautete: Sie dürfen überfordert sein, der Referent ist es auch.

Das war nicht (nur) eine Anbiederung ans Publikum, das war ernst gemeint. Erstmals in meinem Berufsleben ist mit der Veröffentlichung von ChatGPT der Strom an News und Fragen massiv grösser als meine Verarbeitungskapazität (trotz ausgefeilter Werkzeuge wie einem Biblionetz, Wikis etc.). Vor ChatGPT hatte ich das Gefühl, nur dann ein Referat zu geben, wenn ich sattelfest im Thema war und wusste, dass die Gefahr sehr gering war, dass jemand im Publikum aufstreckt und mir komplett neue Gedanken, Publikationen oder Entwicklungen im Themengebiet meines Vortrags präsentieren würde. Seit ChatGPT hat das spürbar geändert. Weder kann ich die grossen Fragen beantworten noch habe ich den Überblick über alle Entwicklungen.

Ich fand es deshalb bemerkenswert, dass der vielfache Buchautor und Experte für Wissensmanagement Tom Davenport (Biblionetz:p00374) in seiner gestrigen Kolumne (Biblionetz:t32566) schrieb:

I have studied this issue for more than a decade, and co-authored two books squarely focused on it—Only Humans Need Apply and Working with AI, if you must know. But I am still quite uncertain about how the AI vs. humans story will end, or even what some of the middle chapters will look like. Or even whether we are at the beginning, middle, or end of the narrative. Or whether my outlook is optimistic, pessimistic, or just paranoid. Or, most importantly, whether the most likely outcome is large-scale automation or larger-scale augmentation.

Da steht ein weltbekannter Experte hin und sagt: “Ich habe keine Ahnung, wie das weitergehen wird.”

Dieses Zugeben des Nichtwissens scheint mir bedeutsam. Wir sollten öfters hinstehen und sagen «Wir wissen es (noch) nicht.»

Im Umkehrschluss sollten wir dann aber auch (vor-)schnelle Antworten auf grosse Fragen entsprechend kritisieren. Konkret im Wissenschaftsbereich betrifft dies z.B. die beiden Metastudien, die bezüglich Lernförderlichkeit von GMLS publiziert und in den sozialen Medien anfänglich unkritisch geteilt und bejubelt, dann aber methodisch heftigst kritisiert worden sind (es ist ein Symptom dieser Überforderung, dass ich die beiden Studien und die methodische Kritik daran noch nicht im Biblionetz erfasst habe,,,). (Stichworte: slow science – fast science Wir sollten darauf hinweisen, dass es methodisch gar nicht möglich ist, in so kurzer Zeit saubere Metastudien zu produzieren und dass sowohl die technische Entwicklung als auch der Umgang der Menschheit sich mit GMLS derzeit noch so rasch entwickelt, dass jegliche Studien nur Momentaufnahmen sind, die bei der Publikation bereits von der technischen und gesellschaftlichen Entwicklung überholt worden sind.

In meiner überholten traditionellen Arbeitsweise versuche ich diese Entwicklung für mich zu fassen, indem ich ihr ein Biblionetzobjekt mit dazu gehörendem Permalink verpasse: Generative Machine-Learning-Systeme überfordern derzeit alle (Biblionetz:a01568)

 

Weitere Blogbeiträge aus dem zITBOx Netzwerk

Deep Learning ist meist ein überflüssiger Begriff

In vielen Handreichungen, Positionspapieren, Erklärungen und Materialien zu maschinellem Lernen (aka “KI”) wird im Abschnitt “Wie funktioniert das?” der Begriff “Deep Learning* (Biblionetz:w02947) verwendet und mehr oder weniger …

Ohne Umweg ins Gefängnis!

Seit mehr als 20 Jahren betreibe ich nun Wikiserver und ebenso lang ist mein Kampf gegen Bots und Crawler, welche die Verfügbarkeit meines Wikis bedrohen. Die von mir verwendete Wiki-Engine …

Programming Wiki

Den grössten Future-Shock Level an der vergangenen GI-Fachtung Informatik und Schule INFOS 2009) hatte für mich der Beitrag von Michael Hielscher und Christian Wagenknecht mit dem Titel Programming-Wiki: Online Programmieren …