Maschinen verstehen

Im Dialog mit einem Chatbot erforscht Hans Jürgen Heringer in „KI und Menschen“ dessen Kapazitäten in Sachen Deutung, Witz und Wertung – und zeigt, warum wir Künstliche Intelligenz nicht zu ernst nehmen sollten

Von Lucas AltRSS-Newsfeed neuer Artikel von Lucas Alt

Besprochene Bücher / Literaturhinweise

Der emeritierte Linguist Hans Jürgen Heringer widmet sich in seinem humorvoll verfassten Büchlein den Möglichkeiten und Grenzen Künstlicher Intelligenz im Umgang mit mehrdeutigen, mitunter literarischen Textfragmenten. Dazu präsentiert er einen Dialog zwischen Mensch und Maschine, den er, immer wieder leser:innenorientiert, lakonisch kommentiert. Die spielerische Form des Texts inszeniert Heringer als Experiment, in dem es um die Suche nach einem ebenbürtigen Sparring-Partner im Nachdenken und Schreiben geht. Wie zu erwarten, erweist sich diese Suche als aussichtslos: Heringer macht es sich zur Aufgabe, Schwachstellen der KI zu identifizieren und offenzulegen, während zugleich eine naive Nutzerhaltung ironisch ausgestellt wird.

Interessant und bedenkenswert erscheinen dabei vor allem Aspekte des sogenannten KI-Bias, also eine dem Algorithmus eingeschriebene Wertestruktur – Heringer bezeichnet diese als Ideologie –, die durch Programmierer:innen und kulturelle Kontexte gewissermaßen en passant in die Codestruktur des Programms einfließt. Zentrale Ideologeme, wie sie auch in der kulturwissenschaftlichen und soziologischen Forschung zum digitalen Kapitalismus und den Denkweisen des Silicon Valley vielfach herausgestellt wurden, lassen sich im Dialog mit dem Chatbot, den Heringer „KiKi“ nennt, anschaulich beobachten.

Zentral dürfte der Befund sein, dass die KI nicht in der Lage ist, adäquat mit Mehrdeutigkeit umzugehen. Von einer Ausnahme abgesehen, werden ambige Begriffe eindimensional erklärt. Von Deutung als Zuweisung von Sinn kann folglich kaum die Rede sein – die Maschine denkt nicht, sie kombiniert, skaliert, rechnet Wahrscheinlichkeiten aus. Soweit nichts Neues. Auch Redundanzen und typische Elemente, Floskeln und rhetorische Muster in der Schreibweise des Chatbots fallen auf. Besonders stößt sich Heringer aber an der Behauptung des Chatbots, er denke wertneutral. Dies widerlegen nicht nur eine Reihe durchaus normativer Aussagen, auch zeigen sich hier deutliche Muster seiner Grundprogrammierung. Neben Phänomenen, die sich mit Bjung-Chul Han dem Dispositiv der „Positivgesellschaft“ zuordnen ließen (Tilgung von Schimpfwörtern, Political Correctness, Umdeutungsprozeduren des Unverfügbaren/Negativen etc.), erscheinen Diskurse um „Diversity“ und „Mental Health“ überproportional in den Antworten und Deutungsangeboten repräsentiert. Immer wieder kehrt der Chatbot dabei zu Imperativen der Selbstoptimierung und Resilienzbildung zurück – und folgt darin einem zutiefst neoliberal gefärbten Menschenbild.

Natürlich stehen die Antworten des Chatbots auch im Zusammenhang mit den Fragen und Impulsen, den sogenannten „Prompts“ des Autors. Für die Leser:innen unklar bleibt allerdings, ob Heringer lediglich eine Auswahl besonders treffender Beispiele aus der Chat-Kommunikation getroffen und entsprechend arrangiert hat oder ob es sich um einen chronologischen, ‚authentischen‘ Verlauf des Dialogs mit der Maschine handelt, also auch Lernprozesse bei Mensch und Maschine in die dargestellten Ergebnisse eingegangen sind. Überdies bleibt unklar, warum der Chatbot zwischenzeitlich ins Englische wechselt, warum einige Passagen übersetzt wurden und andere nicht.

Wünschenswert wäre eine etwas eingehendere Beschäftigung mit den technischen Grundlagen und der Funktionsweise von Chatbots gewesen, die sich Algorithmen bedienen und im Volksmund als „generative künstliche Intelligenz“ bezeichnet werden. Auch wenn im Nachwort ein langjähriges Interesse für deratige Sprachprogramme behauptet wird, erscheinen die Anschlussimpulse an den dargelegten Chat-Verlauf etwas zu lakonisch und manchmal oberflächlich. Zwar ist die geübte Kulturkritik Heringer durchaus berechtigt, ihr überwiegend assoziativer und ironischer Charakter vermag aber kaum die Tragweite und Bedeutung derartiger Programme für konkrete Problemstellungen menschlichen Zusammenlebens in Gegenwart und Zukunft erfassen.

Möglicherweise war dies auch gar nicht das Anliegen von Heringers Text. Deutlich wird die kritische Perspektive des gelehrten und spezialisierten Wissenschaftlers auf eine Technologie, die zu stupiden Verallgemeinerungen und der Reproduktion einer Ideologie der Einfachheit neigt, während sie ihre Aussagen im Medium einer sprachlich bestechend korrekten Textproduktion als Weisheiten maskiert, ohne dabei die Mehrdeutigkeit eines sprachlichen Ausdrucks auch nur annähernd adäquat bestimmen zu können.

Titelbild

Hans Jürgen Heringer: KI und Menschen. Oder Die klugen Dummheiten der künstlichen Intelligenz?
Königshausen & Neumann, Würzburg 2023.
122 Seiten, 16,00 EUR.
ISBN-13: 9783826081996

Weitere Rezensionen und Informationen zum Buch