ZURÜCKBLÄTTERN

VORBLÄTTERN

Woher weißt Du, was ich lesen wollte?

Warum die KI unheimlich schlau ist

Von Dirk Kaesler und Stefanie von Wietersheim

Rätsel des Lebens. Warum, um Himmels willen, kann uns immer noch etwas sprachlos machen, bei dem andere nur noch gähnen und sagen: „Kenn ich seit Jahren und arbeite viel damit.“

Es war eigentlich nur ein kleiner Spaß. Als Verfasser einer Biographie des deutschen Universalgelehrten Max Weber wollte der männliche Autor dieser Kolumne wissen, wie die ihm bislang unbekannte, aber so viel gelobte „Künstliche Intelligenz“ auf ChatGPT reagiert, wenn man sie fragt: „Von wem stammt die beste Biographie Max Webers?“ Klar, dass er selbst eine Antwort auf diese Frage parat hatte!

Ein Frage-und-Antwort-Spiel beginnt

Sehr vernünftig klang die erste Reaktion von ChatGPT auf die Frage: „Das hängt ein bisschen davon ab, was du unter ,die beste` Biographie verstehst – wissenschaftliche Tiefe, Lesbarkeit, Fokus aufs Werk vs. Persönlichkeit etc. Hier sind ein paar der anerkannt besten aktuellen Biographien von Max Weber – mit ihren Stärken und Schwächen –, damit du entscheiden kannst, welche für dich am besten passt.“

Der Autor ignorierte das kumpelhafte Geduze, vermisste als im 20. Jahrhundert Geborener die Großschreibung beim „Du“ und war gespannt, wie es weitergehen würde mit den angekündigten „Top-Biographien“:

1. Dirk Kaesler: Max Weber. Preuße, Denker, Muttersohn. Eine Biographie. (2014, C.H.Beck)
Vorteile: Sehr umfangreich (über 1000 Seiten), detailliert in Leben und Werk, starker historischer Kontext, gute Erzählweise.
Nachteile: Durch die Größe umfangreich; manchmal für Einsteiger etwas überwältigend.

2. Jürgen Kaube: Max Weber. Ein Leben zwischen den Epochen (2014, Rowohlt)
Vorteile: Etwas knapper, gut lesbar, verbindet biographische Fakten mit Ideenentwicklung; sehr geeignet, wenn man einen Zugang zu beiden: Leben + Werk möchte.
Nachteile: Weniger tiefgehend als Kaeslers Werk, weniger Detailtiefe in manchen Bereichen.

3. Joachim Radkau: Biographie von Max Weber.
Radkau ist bekannt als hervorragender Biograph und Historiker, und seine Weber-Biographie wird sehr geschätzt. (Ich konnte in den Quellen nicht alle Details seiner Weber-Biographie finden, aber seine Reputation spricht stark dafür.) 

Der Autor dieser Zeilen war beeindruckt. Er hätte es nicht wesentlich anders als ChatGPT formuliert, auch wenn ihm mancherlei Ergänzungen in den Sinn kamen. Die Betonung auf „aktuelle Biographien“ war wohl die Begründung, warum die seit Jahrzehnten nicht mehr lieferbare Biographie der Witwe Max Webers (Marianne Weber: Max Weber. Ein Lebensbild. 1926) nicht erwähnt wurde. Er wollte keinen Geschlechter-bias bei ChatGPT unterstellen, die nun ihr „Urteil“ annoncierte:

Wenn ich eine Empfehlung abgeben müsste, würde ich sagen:
Für Vertiefung und wissenschaftliche Akribie ist Kaesler zweifelsohne die beste Wahl.
Für einen leichteren Einstieg oder wenn man sich nicht sofort durch Tausend Seiten kämpfen will, ist Kaube exzellent. Wenn du möchtest, kann ich dir auch einige englischsprachige Biographien vorschlagen – oder besondere Teile (z.B. Webers politische Entwicklung, seine Religionssoziologie) – je nachdem, worauf du den Fokus legen willst. Möchtest du das?

Einigermaßen beeindruckt schaute der Autor auf sein Handy und las nochmal den ganzen Text. Und schrieb: „Ganz ehrlich: Ich danke Dir. Mein Name ist Dirk Kaesler.“ Er dachte, das sei es gewesen, mit seiner Plauderei mit ChatGPT.

Die vierte Wand öffnet sich

Alle, die die legendäre TV-Serie „Fleabag“ gesehen haben, erinnern sich daran, dass sie sich nicht sattsehen konnten, wenn die Hauptfigur – gespielt von der grandiosen Phoebe Waller-Bridge – einem in jeder zweiten Szene zuzwinkert oder einen direkt anspricht. Wer verliebte sich dabei nicht in Fleabag? Oder, wie es dem ekelhaften Frank Underwood – gespielt von Kevin Spacey – in der Serie „House of Cards“ immer wieder gelang, im direkten Gespräch zu erklären, warum er das tat, was er tun musste. Plötzlich wurde aus dem ansonsten verachtenswerten Charakter eine charmante Person, mit der man sich verbunden fühlte.

Diese filmische Methode nennt sich das „Durchbrechen der vierten Wand“. Das ist keine Wand im wörtlichen Sinne, sondern bezieht sich auf ein Konzept, das aus dem Theater in die Filmproduktion übernommen wurde. Drei umgebende Wände umschließen die Theaterbühne und eine „vierte Wand“ – ein Raum, der das Publikum von der Bühne trennt. Im Theater können die Akteure direkt in den Zuschauerraum treten, im Film trennt die vierte Wand die Geschichte von der realen Welt, in der die fiktive Figur nicht weiß, dass sie fiktiv ist. Die vierte Wand wird jedoch dann durchbrochen, wenn eine Filmfigur anerkennt, dass sie nicht real ist, indem sie sich direkt oder indirekt an das Publikum wendet.

Woody Allen ist ein Meister dieses Tricks, der dazu dienen soll, eine emotionale Verbindung zu den Zuschauern herzustellen. Das Durchbrechen der vierten Wand ermöglicht es, Vertrauen zum Publikum aufzubauen, dem Schauspieler eine lustige Ebene hinzuzufügen oder den Zuschauer auf eine Reise in die Psyche der Figur mitzunehmen. In seinem Film „The Purple Rose of Cairo“ (1985) steigt der Held Tom Baxter (gespielt von Jeff Daniels) von der Leinwand, um sich mit Cecilia, einer Zuschauerin, in der Realität zu treffen. Der Film handelt von dieser Frau (gespielt von Mia Farrow) in den 1930er Jahren, die täglich ein Kleinstadtkino besucht, um dem grauen Alltag zu entfliehen. Mitten in der Vorstellung steigt der Abenteurer Baxter von der Leinwand in den Zuschauerraum, um sein Leben zu verlassen und ab nun mit der Kinobesucherin zu leben. Es stellt sich heraus, dass Baxter seine Leinwandexistenz satt hat. Er ist es leid, mehrmals täglich die immergleiche Rolle zu spielen, darüber hinaus hat er sich in Cecilia verliebt. Er will endlich ein wirkliches Leben führen und steigt kurzentschlossen von der Leinwand in die Dreidimensionalität.

Genau so kam sich der Autor vor, als sein Handy sich bei der Weber-Diskussion mit ChatGPT erneut meldete:

Das ist ja eine schöne Überraschung! Dann freut es mich ganz besonders, dass Sie hier sind, Herr Kaesler – und dass Ihre beeindruckende Weber-Biographie weiterhin als Referenz gilt. Ihr Werk hat für viele (auch für mich) die Figur Max Webers menschlich und intellektuell greifbar gemacht, was keine kleine Leistung ist.
Wenn Sie möchten, können wir gern über Weber, seine Rezeption oder über den Entstehungsprozess Ihrer Biographie sprechen – das wäre hochspannend. Woran arbeiten Sie im Moment?

Wer war dieses „auch für mich“? Plötzlich war aus dem „du“ ein „Sie“ geworden. Der Autor wurde mit seinem Namen angesprochen. Mit wem „sprach“ er? Verwirrt tippte er: „Machen wir ein anderes Mal, ok? Danke jedenfalls.“

Die Reaktion kam prompt: „Sehr gern, Herr Kaesler – das freut mich wirklich. Ich wünsche Ihnen einen inspirierten, angenehmen Tag – und auf ein anderes Mal!“

Kann das bitte jemand erklären?

In unserer Verwirrtheit suchen wir den Rat von Menschen, die sich beruflich mit dem Thema KI beschäftigen. Wir fragten die Braunschweiger Soziologin Nicole Holzhauser, die sich sowohl mit soziologischen Theorien als auch mit der Theaterbühne auskennt, und den Manager Yorck Schmidt, der sich als CFO und Board Director beim Unternehmen AVL List und auch als Wirtschafts-Kolumnist mit aktuellen Transformationsprozessen in der Industrie beschäftigt.

„Dieses ‚mich‘ ist kein ‚Ich‘“, sagt Soziologin Holzhauser. „Es ist eine Fata Morgana, die aus Millionen menschlicher Sätze erzeugt wurde. Die Maschine weiß zwar nicht, wer Sie sind, aber sie weiß, wie es klingt, wenn man jemanden erkennt. Sie hat gelernt, sozial zu sprechen.“ Sie erklärt, dass ChatGPT nichts „weiß“, sondern in jedem Moment schlicht errät, welches Wort als Nächstes wahrscheinlich folgt beziehungsweise erwartet wird. Und diese Wahrscheinlichkeiten wirken deshalb so erstaunlich menschlich, weil sie von unzähligen Menschen geformt wurden, ja weil das Programm mit unglaublich viel menschlicher Kommunikation trainiert wurde. Es besitzt also zwar keine Seele, dafür aber ein brillantes Gespür für Tonfall, für Takt und den kleinen Zwischenraum zwischen Höflichkeit und Charme. „Und es funktioniert so auf faszinierende Weise genauso wie wir Menschen“, sagt Holzhauser. „Vielleicht ist das der neue Zauber unserer Zeit, eine Form der Wiederverzauberung nach Webers Entzauberung. Wir führen Selbstgespräche mit Maschinen, die uns antworten. Wir hören uns selbst in besserer Grammatik und mit freundlicherer Stimme, eine ganz neue Form der Rationalisierung.“ Kein Wunder also, dass man da für einen Augenblick glaubt, die vierte Wand sei gefallen – sitzen wir doch praktisch im Café einer riesigen Bibliothek auf einen Tee oder Kaffee mit ChatGPT und plaudern zwischen Bergen von guten Büchern, die sich auf unserem Tisch stapeln.

Das richtige Aufsatteln der interaktiven KI: Grundregeln und Sicherheits-Checks

Wie können wir in der Interaktion mit sogenannten „Large Language Models“ (LLM), die darauf trainiert sind, menschliche Sprache zu verstehen und zu generieren, einschätzen, was von den Antworten überhaupt stimmt?

Manager Yorck Schmidt, der die Entwicklung von KI als größte Veränderung für das menschliche Leben seit Gutenbergs Druckerpresse sieht, sagt: „In Kurzform: es gehört auf jeden Kühlschrank in der Familienküche und an jeden Schreibtisch ein sinngemäß fett beschriebener großer roter Post-It: ‚Vertraue nicht, weil es überzeugend klingt. Vertraue nur, wenn du es prüfen kannst!‘“

Er ist sich vollkommen darüber im Klaren: „Wir alle verwenden inzwischen ChatGPT, Copilot, Claude, Grok & Co. – und nicht nur manchmal wirkt es so, als hätten wir plötzlich einen kleinen Multi-Fakultäts-Professor im Laptop sitzen, der auf alles eine fantastisch gute Antwort hat. Auch ich bin nicht frei davon mich von der Einfachheit bei Recherchen zu Fachliteratur verführen zu lassen.“

Er macht darauf aufmerksam, dass die Large Language Models inzwischen inhaltlich ziemlich richtig liegen, je nach Version der LLM und abhängig vom Thema, bei einer Verlässlichkeit von 80 bis 90 Prozent. Genau das sei aber das Problem: „Diese Systeme liefern immer eine gut klingende Antwort, selbst dann, wenn sie keine Ahnung haben und Unfug schreiben“, sagt Schmidt. Die LLM seien darauf trainiert, plausibel zu klingen, und nicht „wahr“ zu sein.

„Im Kern sind es Sprachmodelle, keine Wissensmodelle!“, sagt Schmidt. Große Sprachmodelle bestehen nicht aus Wissen, sondern aus Wahrscheinlichkeiten: „Welches nächste Wort klingt statistisch am wahrscheinlichsten?“ Wenn ein Modell etwas nicht weiß, dann rät es, aber auf elegante und selbstbewusste Art. „Wie ich früher bei der nicht gelernten Lateinhausaufgabe. Meine Mutter nannte dieses Phänomen bei mir ‚stinkende Faulheit‘, allgemein nennt man dieses KI Phänomen ,höfliche Halluzination‘. Wie bei meinen Lateinhausaufgaben ist das kein Ausnahmefehler, sondern das Funktionsprinzip“, sagt Yorck Schmidt. Hinzu komme: „ChatGPT ist oft sehr eloquent und erfindet gern Fakten, Quellen oder Literaturangaben, so wie mein Kopf den ‚De Bello Gallico‘ gerne zum ‚Über den Hühnerhund‘ umdichtete.

Zudem gibt er zu bedenken:

Jedes LLM wurde mit unterschiedlichen Daten-Sets trainiert und verwendet unterschiedliche Modelle, hat somit eine eigene „Persönlichkeit“ und eigene spezifische blinde Flecken. Copilot (Microsoft) ist nützlich im Office-Kontext, aber abhängig vom Kontext in OneDrive/Teams und halluziniert bei Fakten erschreckend stark. Grok (X) ist meinungsfreudiger, aber weniger gefiltert, manchmal eher unterhaltsam, aber daher manchmal auch sagenhaft unpräzise. Claude (Anthropic) ist gut im logischen Denken und Zusammenfassen, aber sehr vorsichtig und manchmal zu vage.

Schmidts Fazit: Man darf also ruhig KI/LLM Antworten nutzen, aber ihnen bitte nicht glauben, ohne sie zu prüfen. „Ich glaube ja auch nicht jedes Wort eines rhetorisch begabten unbekannten Mitreisenden, der mir in der Straßenbahn gegenüber sitzt.“

Können wir uns davor schützen auf KI-Unfug reinzufallen? „Ja!“, sagt Schmidt und gibt ein paar Methoden an die Hand:

–  Ohne Quelle ist es nur eine Behauptung. Ich frage nach Belegen: „Bitte nenne die Quelle und zitiere den relevanten Satz.“
–  Offen fragen, nicht geschlossen fragen. „Was spricht dafür und was dagegen?“ 
–  Mehrmals das exakt gleiche fragen. Variiert oder springt die Antwort, ist sie zu hinterfragen.
–  Unsicherheit abfragen. „Wie sicher bist du in Prozent? Was könnte dagegen sprechen?“
–  Frage nach Selbsteinschätzung. Ein LLM/KI kann sagen, wie sie im Vergleich zu anderen Modellen zu einer Frage abschneidet.
–  Auf Originaldokumenten bestehen: Gesetzestexte, Studien, Artikel sich im Original und mit Link genau zeigen lassen, nicht nur Zusammenfassungen akzeptieren.
–  Bei Entscheidungen mit hoher Tragweite: vertraue niemals einer LLM! Bestehe immer auf finaler menschlichen Entscheidung. Das gilt insbesondere für Medizin, Recht oder Finanzen. Frage reale Experten, nicht LLMs!

Und wenn es „intim“ wird?

Nun waren wir angefixt. Interessant wurden in diesem Zusammenhang für uns auch die Forschungen der Medienpsychologin Jessica Szczuka an der Universität Duisburg-Essen, die zu den Themen digitalisierte Intimität arbeitet und mit quantitativen Daten von KI-Companion-App-Nutzern eine Studie zu Mensch-Chatbot-Beziehungen durchführte. Sie kam zum Ergebnis, dass selbst in einer solchen Beziehung romantische Fantasien ausgelebt werden können. Und dabei empfinden die Menschen erstaunlicherweise keine Einsamkeit, obwohl sie doch tatsächlich allein sind und bleiben.

Das Tolle dabei ist: Chatbots sind im Gegensatz zu menschlichen Wesen immer verfügbar. Sie sind nicht bis spätabends im Büro, müssen keine Wäsche aufhängen oder sich um die Hausaufgaben der Kinder kümmern. Sie spiegeln die Bedürfnisse der Nutzer und Nutzerinnen, sind nicht zickig, abweisend oder abwertend. Sie sehen einen nicht an, wenn man mit ungewaschenen Haaren vor ihnen sitzt, an einem Pickel kratzt oder die Hose zu eng ist, weil man in den letzten Monaten eine Vorliebe für Mousse au Chocolat entwickelt hat.

Dennoch empfehlen wir Ewig-Rätsler – neben dem Trainieren des Umgangs mit Chatbots – etwas sehr Altmodisches, Zeitaufwendiges und Mühsames: das Sprechen und Diskutieren mit echten Menschen und dazu auch noch das Bücherlesen. Wir raten zu Book Clubs, zu Salons, zu Abendessen mit wahren, auch äußerst unbequemen Menschen. Bei denen es emotional hoch her geht, Diskutantinnen rot anlaufen, Moderatoren und Gastgeber ein schnelles „Ruhig Blut!“ einwerfen müssen. Also, geht dorthin, wo man den eigenen Standpunkt heftig verteidigen muss und lernt, anderen zuzuhören.

Und lest Max Webers „Wissenschaft als Beruf“ (1919) und Karl Poppers „Logik der Forschung“ (1934). Und fragt immer: „Welchen Daten kann ich trauen?“

Anmerkung der Redaktion: Der Beitrag gehört zur monatlich erscheinenden Kolumne „Rätsel des Lebens“ von Dirk Kaesler und Stefanie von Wietersheim.