Eine KI tut was?

Von Maschinendenken und Menschen(ge)denken

Von Wolfram Malte Fues

Was tut eine KI? Allgemeiner Meinung nach, was ihr Name sagt: Denken. Intelligente Prozesse durchführen. Gemäss welcher Form von Intelligenz? Welcher Logik? Mit welchen Folgen für das menschliche Denken, wenn es sich mit dem von ihm kreierten, selbständig gewordenen Denken der KI vermittelt?

Wann denkt und handelt eine KI selbstverantwortlich, statt nur menschliches Denken ergänzend zu unterstützen? Beispielsweise im Fall des ohne menschliche Hilfe selbst fahrenden Autos. Wie gestaltet, wie differenziert und diversifiziert sich dieser Fall?[1] Zunächst ist das Artefakt das Fahrzeug. Es bewegt sich durch eine vom Menschen geschaffene, gesellschaftlich definierte Umgebung: die Straße. Hier begegnen ihm Menschen und andere Fahrzeuge: Fußgänger, Rad- und Motorradfahrer, andere Autos bis hin zum Lastwagen, Straßenbahnen und Busse des öffentlichen Verkehrs. Alle diese Verkehrsteilnehmer*innen folgen einerseits allgemeinen Regeln, die ihnen teils signalisiert werden, teils ihnen gegenwärtig sein müssen, andererseits besonderen, die nur für ihre Gruppe gelten. Die das Fahrzeug steuernde KI muss nun nicht nur Kontur und Profil der Umgebung jederzeit und überall richtig abschätzen, sondern auch über den gesamten Regelkomplex handlungsleitend verfügen, während ihr in jedem Moment deutlich ist, wie sich dieser Komplex hier und jetzt hierarchisiert. Angenommen, es gebe eine KI, die zu dieser Leistung fähig ist, dann wird sie es nur unter einer allgemeinen Bedingung sein: derjenigen der Kontingenz, der unausgesetzten Geltung aller Regeln, die sie zu befolgen hat, und deren Befolgung sie sowohl bei ihrer Umgebung als auch bei allen übrigen Verkehrsteilnehmer*innen voraussetzen muss. Diese allgemeine Bedingung hat ihren Grund in der logischen Form, der gemäß eine KI denkt: im Algorithmus.

Diese Grundform der virtuellen Welt ist eine mathematische Operation, die den folgenden Bedingungen genügen muss:

1. Eindeutigkeit. Ein Algorithmus darf keine widersprüchliche Beschreibung haben.

2. Ausführbarkeit. Jeder Einzelschritt muss ausführbar sein.

3. Endlichkeit. Die Beschreibung des Algorithmus muss endlich sein.

4. Terminierung. Nach endlich vielen Schritten muss der Algorithmus enden und ein Ergebnis liefern.

5. Determiniertheit. Der Algorithmus muss bei gleichen Voraussetzungen stets das gleiche Ergebnis liefern.

6. Determinismus. Zu jedem Zeitpunkt der Ausführung besteht höchstens eine Möglichkeit der Fortsetzung. Der Folgeschritt ist also eindeutig bestimmt.[2]

Damit erweist sich der Algorithmus als das ideale Muster rekursiver Funktionalität. Jedes seiner Momente wird durch das, worauf es folgt, wie durch das, was aus ihm folgt, eindeutig bestimmt. Jedes dieser Momente ist dadurch jedem anderen vollständig gleichgültig und folglich ebenso vollständig abstrakt wie unmittelbar. Innehalten, Denken als Nach-Denken, gilt als Abbruch und führt zum Ende der gesamten Operation. Gradlinige Folgerichtigkeit, keine Einwände, keine Voraussicht. Jeder Schritt geht zwingend aus dem vorherigen hervor: Doppeldeutigkeit ausgeschlossen. Jede Wiederholung vollzieht sich in unmittelbarer Identität: Variation durch Rekapitulation ausgeschlossen. Eindeutig unanzweifelbares Ergebnis als Resultat einer längeren oder kürzeren, aber stets endlichen Operation. Und das menschliche Denken, wodurch homo sich als sapiens bestimmt?

Der Begriff oder die wahrhafte Unendlichkeit überhaupt und damit die des Geistes ist dass die Schranke als Schranke für ihn sey, dass er sich in seiner Allgemeinheit bestimme, d.i. sich eine Schranke setze, aber dass sie als ein Schein sey; er ist diss ewig sich diesen Schein zu setzen, die Endlichkeit nur als ein Scheinen an ihm zu haben.[3]

Denken ist gemäß dieser Bestimmung von der Höhe des so gennannten deutschen Idealismus Begreifen und demnach, wie zu zeigen sein wird, Erkennen im doppelten Sinn. Es greift als dessen Sub-jekt nach seinem Ob-jekt, nach seinem Gegenstand als einem fremden und macht sich diese Fremdheit in solchem Begriff an sich schon zu eigen. Es erkennt diesen Gegen-Stand in seiner Fremdheit zuerst und zunächst an seiner Negativität, daran, dass er es in seiner so seienden Subjektivität verneint. Aber, sich mit ihm berührend, vermittelnd, verbindend, erkennt es diese scheinbare Fremdheit als sein ihm bisher unbekanntes Selbst, sich um sie bereichernd und seine Subjektivität zu konkreterer Gestalt verändernd. Soweit der zeitlos logische Prozess. Im Zeitbedingten des Bewusstseins bedeutet er: Staunen, Erschrecken, Sich-Fassen, wiederholt wiederkehrende Neugier, Sich-Einlassen, Zögern, Skepsis, Zweifel, Irrweg, Umweg, Heimweg. Aber wo bleibt die „wahrhafte Unendlichkeit“?

Im eben geschilderten Bewusstseinsprozess ist kraft seiner inneren Logik das objektiv Fremde wirklich Schein geworden; seine wahre Eigentlichkeit scheint durch. Aber das Fremde kehrt zurück. Das Subjekt hat sich um die Bestimmungen des Objektiven vermehrt, bereichert. Es ist konkreter, vielfältiger geworden, es verfügt über weitere neue Kategorien zur Vermittlung mit Objektivität. Seine Auffassungsmacht wächst, der Bewusstseinsprozess kann den Angeboten des Logischen kaum mehr folgen. Das Subjekt droht, von seiner Selbstverwirklichung überwältigt, sich in seiner immer größeren, immer allgemeineren Gestalt fremd zu werden. Sein Perspektivierungs- und Orientierungspunkt, das Ich, wird unter den sich ihm bietenden Möglichkeiten begraben. Dem Bewusstsein bleibt nur, seiner eigentümlichen Objektivität wieder fremd zu werden, sie kraft dieses Eigentums in ihrer Fremdheit wiederherzustellen, um sich mit Hilfe der Ich-Funktion neu zu orientieren, ohne dass darin die Aneignung der ersten Fremdheit verschwände. Alle Kritik, die homo sapiens an seinen Weltenwürfen zu üben vermag, ist zuerst und zunächst Selbstkritik, die zu neuem Entwurf befreit, dem dasselbe Schicksal bevorsteht. Beide Prozesse bedingen einander, rufen einander hervor und entfalten darin „wahre Unendlichkeit“, so lange homo sapiens existiert.

In den algorithmischen Prozeduren des maschinellen Denkens gibt es all das nicht. In ihm praktiziert und trainiert das oben geschilderte Menschliche seine Fähigkeit, von seinen Selbstvermittlungs-Kategorien zu abstrahieren und diese Abstraktion zu formalisieren, sei es in Zahlen, sei es in Wörtern, sei es in mathematischen, sei es in grammatischen Strukturen. Was bedeutet das nun für die Transformation der menschlich realen Welt in die maschinell virtuelle?[4] Wir kehren damit zum selbstfahrenden Auto zurück.

Das, was die Sensoren des Artefakts aufspüren, wird in einen Komplex von Regeln übertragen, denen gemäß sich die Agent*innen der realen Welt kontingent zu verhalten haben, also durchgängig, ausnahmslos und ohne Unterbrechung. Algorithmen kennen in ihrer folgerichtigen Durchführbarkeit kein Abwägen, kein Zögern, keine Zweifel. Sie gelangen in lückenloser Konsequenz stets zum gleichen Resultat und definieren durch die sich in ihm ausdrückende Regel das Verhalten desjenigen Objekts in der realen Welt, auf das sich die Regel bezieht.

Ist das Verkehrssystem nicht der ideale Gegenstand für eine derartige Transformation? Ein Komplex von Regeln, die, wie sein Name schon sagt, in hierarchischem Bezug zueinanderstehen? In dem jede Regel als systemisches Moment ihren Platz in der Hierarchie wechseln kann, aber stets mit dem Systemganzen verbunden bleibt, also rekursiv funktional ist? Ein System, in dem jedes seiner Objekte Subjekt eines einzelnen Systemmoments, seiner besonderen Regel ist, sich aber, indem es sie befolgt, dem Gesamtsystem unterzieht? Ein idealer Arbeitsplatz für eine algorithmisch programmierte KI?  Er wäre es, käme ihr hier nicht der Mensch mit seiner so anderen Denkweise in die Quere, mit seiner Art, sich umzubesinnen und umzubestimmen, seinem Zögern, seinem Innehalten, seinen plötzlichen Entschlüssen. Durch nicht im System gerechtfertigte Regelverstöße, alle aus Sicht der KI irrational. Zum Beispiel?

Auf dem Bürgersteig rechts des Artefakts steht ein Kind und schaut ihm entgegen. Die Sensoren registrieren es, und das Programm interpretiert das aufgenommene Verhaltensmuster als regelkonform: die Straße bei laufendem Verkehr nicht betreten, wenn kein Fußgängerstreifen das Gegenteil signalisiert. Plötzlich sieht das Kind auf der anderen Straßenseite seinen besten Freund und rennt los. Das Programm vermag in diesem Sprung auf die Straße keine der Regeln zu erkennen, mit denen es kalkuliert und gemäß denen es agiert. Es begegnet reiner Irrationalität. Was wird das selbstfahrende Auto tun? Das Kind überfahren? Oder einen Kurzschluss seines Regelsystems erleiden und so lange stillstehen, bis es das umgebende Geschehen wieder als regulär einordnen kann? Oder: Das selbstfahrende Auto begegnet einer Verkehrsteilnehmer*in, die unter Drogen steht und demnach das allgemeine Verkehrsregelsystem in privates, nur ihr bekanntes deformiert, das sie nun für das allgemeine hält. Eine KI nimmt keine Drogen. Sie wird das Verhalten, dass ihr hier begegnet, als reine Irregularität, reine Irrationalität klassifizieren. Was wird sie tun? Blicken wir schließlich noch auf ein harmloseres, nahezu idyllisches Beispiel für die Mensch/Maschine-Begegnung, in der ein einfacher Algorithmus statt eines kalkulierenden Systems von Algorithmen seine Rolle spielt. Vor gar nicht so langer Zeit gab es Bankschalter, an denen man Geld von seinem Konto holen konnte. Ging man immer zur selben Zeit zur selben Bank, wurden Kund*in und Bankbeamt*in allmählich miteinander bekannt. Man wechselte ein paar freundliche Worte, man musste sich nicht mehr ausweisen, und wenn sich das Bankkärtchen in die tiefste Manteltasche verkrochen hatte, wartete die Beamt*in geduldig, bis man es herausgefischt hatte. Heutzutage hingegen gibt es nur noch Geldautomaten, die nichts kennen und anerkennen als die persönliche Kennzahl. Die Reihenfolge der auszuführenden Handlungen ist streng reglementiert, Verwechslungen führen zum Abbruch der Prozedur; allzu langes Zögern zwischen einzelnen Schritten ebenfalls. Ein Algorithmus hat kein Zeitgefühl. Er kennt und versteht jenen Rhythmus des Beschleunigens und Verlangsamens nicht, der sich am Atem und zuletzt am Herzschlag orientiert. 

Was folgern wir aus alledem? Dass sich nicht, wie immer wieder behauptet wird, die Maschine dem Menschen anpasst, sondern der Mensch der Maschine. Die Maschine dient dem Menschen, der sie in fehlerfreiem Gehorsam bedient, und sie dient ihm nur unter der Bedingung, dass er ihr dient. Unter gesellschaftlich allgemeiner Gültigkeit dieses reziproken Verhältnisses werden eines Tages nicht nur selbstfahrende Autos unsere Straßen beherrschen und Automaten die Schalter vergessen machen, sondern mehr und mehr soziale Interaktionen sich digitalisieren, algorithmisieren.[5] Dafür muss menschliches Denken und Verhalten sich den folgenden Grundsätzen anbequemen.

Eindeutigkeit. Jeder Folgeschritt muss sich zwingend aus dem vorherigen ergeben. Abweichungen und Verzweigungen zur Mehrdeutigkeit sind nicht gestattet. Jeder neue Schritt muss sich ohne weitere Umstände ausführen lassen, ohne Probleme, die Zögern, Neuorientierung, zusätzlich vermittelnde Instanzen erfordern. Jeder Denk- und Verhaltensprozess muss endlich ein klar definiertes Ergebnis in Form einer Erkennens- oder Handlungsanweisung liefern. Denken und Handeln müssen demgemäß die Gestalt zielführender Regeln annehmen, die sich auf endliche, also vollständig beschreibbare Situationen beziehen und sie in ihrer Realisierung als durchgängig regulär darstellen und bestätigen. So will es die algorithmische Logik.

Diese Logik liegt heute nicht mehr nur Computerspielen zugrunde. Die Finanzwelt gehorcht ihr schon nahezu ausschließlich. Der Geld- und Finanztransfer zwischen Banken, zwischen Banken und Unternehmen, zwischen Unternehmen und Unternehmen verläuft in algorithmischer Bargeldlosigkeit, in die auch den schlichten Bankkunden einzubeziehen die Finanzwelt hartnäckig sich bemüht. Bargeld ist inzwischen eine bedrohte Spezies. Eisenbahn- und Flugverkehr folgen der oben definierten Logik ebenfalls. In Entwicklung: der Pflegeroboter, der Polizeiroboter. Wie es scheint, ist homo sapiens als Subjekt spätmoderner Gesellschaft daran, sich durch deren KI-förmige Digitalisierung aus der Verantwortung für sie drängen zu lassen. Aber stimmt das? Kehrt nicht, was wir das homo sapiens kennzeichnende Denken genannt haben, mit der KI und ihrer Logik überreich wieder? Mit den ChatKIs, etwa mit ChatGTP23?

Gibt es etwas Annehmlicheres und Entspannenderes als eine Unterhaltung mit einer ChatKI? Sie macht nie Einwendungen, sie widerspricht nie, sie fragt immer wieder, ob man zufrieden mit ihren Antworten sei, sie entschuldigt sich, wenn man es nicht ist, und gelobt Besserung. Sie wird nie wütend, nie zynisch, nie resigniert, sie verliert ihre devote Freundlichkeit nie. Man hat, wie es scheint, immer recht und gibt das Heft nie aus der Hand. Was aber verbirgt sich hinter diesem Schein? Der Speicher der KI enthält eine Menge von Sprach-Elementen.[6] Eine sehr große, aber stets endliche Menge. Diese Menge kann im Verbund von Algorithmen so kombiniert und gruppiert werden, dass die KI Ansprachen als ebensolche Gruppen auffassen und mit entsprechenden (ent-sprechenden) Neu-Gruppierungen auf sie antworten kann.[7] Hat die neue Gruppe nach Meinung der Ansprache den falschen Ausgangspunkt und damit eine irrige Perspektive gewählt, nimmt die KI die Zu-Recht-Weisung freundlich dankbar entgegen und baut sie in ihre Kombinatorik ein. Sie lernt in jeder und durch jede Kommunikation hinzu, welcher Art sie auch sein mag, insoweit sie mit den Prinzipien der Algorithmik kompatibel ist oder sich kompatibel machen lässt: Eindeutigkeit, Ausführbarkeit, Endlichkeit, Beendbarkeit, Determiniertheit. Die Vermittlung macht der Abgleichung Platz, die Analogie der Repetition, das Erkennende dem regelgeleiteten Denken. Was heißt das?

Theodor W. Adorno hat sich schon 1964 gefragt, „ob in der Realität, in der wir heute leben, so etwas wie Erfahrung eigentlich noch möglich ist“[8]. Ob was noch möglich ist? Von einem eingeübten, oft begangenen Denkweg ab-zweigen und einen neuen Weg ein-schlagen. Wenn wir mit Borges die fundierende Struktur erkennender Erfahrung als den Garten der Pfade verstehen, die sich verzweigen[9], dann ist die Fähigkeit, einen Weg zu verlassen, ohne ihn zu verlieren, ihre begründende Funktion. Der neue Weg entsteht aus einem nicht zu ermessenden Moment des Nicht. Das Denken hält den Atem an, es fällt sich in die Zügel, und eben daraus bildet sich seine neue Spur, eine zunächst unmittelbare Objektivität, an der es sich in Erkenntnis verwandelt und gestaltet. Die Differenz, wie wir diesen Ab-zweig traditionell nennen, ist jenes nicht-räumliche, nicht-zeitliche Denk-Moment, das als kategorische Bedingung von Andersheit den Weg des Denkens zur Erkenntnis öffnet. Der Garten der Pfade, die sich verzweigen, steht mit jedem neuen derartigen Ab-zweig als ganzer zur Disposition und Regeneration. Es sei denn, er hätte sich im Laufe seiner Geschichte zu einer konstanten und kontingenten Form verfestigt, die im Moment des Nicht zwar verschwindet, aber schon am Anfang der neuen Spur zurückkehrt, sie unterfährt und unterfängt. Das Neue wird Schein, die Erfahrung wird Wiederholung, die sich als neu maskiert. Darauf richten sich Frage und Befürchtung Adornos. Die mit der Aufklärung sich gründende bürgerliche Moderne weiß sich in ihrer Entfaltung zuerst und zunächst durch den Gebrauchswert bestimmt, der sich an seinem Erfahrungs- und damit an seinem Erkenntnisreichtun bemisst. Ab der Mitte des 19. Jahrhunderts beginnt der Tauschwert, die Grenzen seiner Rolle als transzendentale Bedingung sich vermittelnder Gebrauchswerte zu überschreiten und diese Vermittlung selbst zu infiltrieren. Der vielfältige Prozess der Erfahrungs-Erkenntnis geht je länger je einschließlicher in den einfachen des Tauschprozesses über; folglich fragt sich, „ob in der Realität, in der wir heute leben, so etwas wie Erfahrung eigentlich noch möglich ist“. Wie steht es damit in einer Realität, in der von Algorithmen geregelte Diskursivität die Erfahrungs-Erkenntnis in sich aufzulösen trachtet? 

Möglicherweise ist der Gebrauchswert bis jetzt dem Tauschwert immer noch einen Schritt voraus. Einen Schritt, der mehr und mehr davon bedroht ist, kleiner und kleiner zu werden, den es aber vielleicht immer noch gibt. Solange es ihn gibt, bleibt Erfahrung möglich. Und unter Bedingung sich totalisierender algorithmischer Diskursivität? Erinnern wir uns: Was haben wir eben entworfen? Ein Modell der Möglichkeit von Erfahrung, das an die Grenzen des Sprach-Bewusstseins rührt und es punktuell überschreitet. Wo haben wir es entworfen? Im Sprachraum, der noch diese Berührung und jenes Überschreiten zu formulieren hat, unter Bedingung der Erfahrungs-Erkenntnis jedoch mit dem allgemeinen Vorbehalt, dieses Berühren und jenes Überschreiten betreffe ihn und gelte in ihm und für ihn. Erfahrungs-Erkenntnis bildet und formuliert sich im Sprachraum als dieser Widerspruch in seiner unerschöpflichen Differenz. Aus einem algorithmisch bestimmten Sprachraum, in dem sämtliche Kommunikations- und Vermittlungsprozesse durch Algorithmen vollzogen werden, verschwindet die Differenz, wie wir sie oben bestimmt haben, und macht jener Zäsur Platz, die den Anschluss einer Terminierung an eine andere markiert. Die Form der Erfahrungs-Erkenntnis entfällt, ihr Sprachraum bleibt übrig. In ihm lebt der Garten der Pfade, die sich verzweigen, mit allen aus ihm abgeleiteten Folgerungen jetzt als bloße Diskursfigur fort. Erfahrung bleibt möglich und wird zugleich unmöglich.[10]

Verfolgen wir diese Ueberlegung noch eine Strecke weiter. ChatKIs widersprechen Menschen nicht, die mit ihnen kommunizieren; sie nehmen deren Widerspruch mit demütiger Freundlichkeit entgegen und integrieren ihn algorithmisch, soweit ihr Programm das zulässt, so dass er in ihrer künftigen Kommunikation als positives Moment auftritt. Nehmen wir an, der kommunikative Austausch mit ChatKIs wird gesellschaftlich so allgemein, dass er keine Ausnahme mehr darstellt, sondern alltäglich wird. Würden sich dann seine Subjekte die auf objektive Erkenntnis-Erfahrung ausgerichtete Denkform allmählich ab- und die positiv variierende Wiederkehr des Gleichen auf sich erweiternder Stufenleiter angewöhnen? So dass Widerspruch, Zweifel, Zögern, Negation, qualitative Differenz als gesellschaftliche Kommunikationskategorien aus ihrem Bewusstsein allmählich verschwänden, objektive Erfahrung zunächst erkenntnis- und schliesslich sprachlos würde, bis nichts mehr von ihr bliebe als ein unbestimmt allgemeines Gefühl der Unruhe, des Unbehagens, das ein schlechthin Fehlendes anzeigt? Ein Gefühl, das sich selbstverständlich in die erlernte algorithmische Diskursivität übersetzen und dort weitläufig erörtern ließe? Selbstverständlich ausschließlich zu deren Bedingungen?

Treten wir einen Schritt zurück. Verfallen wir nicht dem Zauber negativierenden Extrapolierens. Nehmen wir stattdessen an, Maschinen-Denken und Menschen-Denken balancierten einander in dauernd wechselndem Verhältnis aus, worin keines über das andere die Oberhand gewinnt.[11] Eindeutigkeit, Ausführbarkeit, Endlichkeit, Terminierung, Determiniertheit auf der einen und Neugier, Urteil, Widerspruch, Zweifel, Zögern, Skepsis, Differenz, kurz: Irrweg, Umweg, Heimweg auf der anderen Seite berührten und trennten sich in immer neuen Verhältnissen, schüfen eine allgemeine Zäsur, die sich stets neu überspielte und darin stets neu hervorbrächte. Die Gesellschafts-Mitglieder im Allgemeinen sowie jedes Individuum in seiner Einzelheit würden in allen ihren Interaktionen mit sich und anderen zu Subjekten dieser Zäsur. Was täte sie mit den Gewissheiten, auf die diese Subjekte ihre soziale Existenz gründen müssen? Was mit ihrem Selbstbewusstsein? Was mit dessen abstrakt unmittelbarer Selbstgewissheit, dem archimedischen Punkt, von dem her moderne Subjekte ihre Welt entwerfen, dem Ich?

Greifen wir, um diese Frage zu beantworten, auf den ursprünglichen Begriff des modernen Ich-Bewusstseins zurück, auf den Grund-Satz: „ego sum, ego existo, quoties a me profertur, vel mente concipitur, necessario esse verum“[12]. Ich denke – ich bin. Der Begriff garantiert die Existenz. Der Begriff bestimmt sich zum Dasein, das seinen Inhalt ausmacht. Unmittelbar und einfach. Diese einfache Unmittelbarkeit ist aber zugleich und ebenso unmittelbar der reflexionslogische Ursprung vernünftiger Totalität, der Anfang ihrer unbedingten Selbstver- und -ermittlung. So der epochale Kunstgriff der Moderne, mit dem sie sich von allen religiösen und metaphysischen Vorgaben befreit.

Sed est deceptor nescio quis, summe potens, summe callidus qui de industria me semper fallit; haud dubie igitur ego etiam sum, si me fallit, et fallit quantum potest, numquam tamen efficiet, ut nihil sim quando me aliquid esse cogitabo.[13]

Der „deceptor nescio quis“ mag mich über alles täuschen, was ich denke, darüber, dass ich denke, vermag er mich nicht zu täuschen, und da mein Denken unmittelbar identisch mit meinem einfachen Dasein ist, muss er vor dem Begriff meines Ichs in seiner absoluten Gewissheit verstummen. Im Rahmen desvon uns oben angenommenen gesellschaftlichen Szenarios, der Verquickung von maschinellem und modern humanem Denken, findet er die Sprache wieder. Cogito – sum. Sit. Aber was für ein Ich, flüstert er dem Denken ins Ohr. Ein algorithmisches Diskursmuster mit all seinen Wiederholungen und Variationen, oder Ursprung und Ausgangspunkt vernünftiger Totalität in modern humaner Begriffswelt? Im Wechsel je nach Situation? Oder beides zugleich, changierend oszillierend? Ob die in den sozialen Medien wie mehr und mehr auch in der Gegenwartsliteratur um sich greifende Egomanie ein erstes Zeichen dieser beginnenden Verunklärung und Verunsicherung gibt?

Was war das bis jetzt? Ausgeburt einer kritischen Theorie, die in jeder Analyse die schlimmstmögliche Wendung des Analysierten ausfindig machen will? Hören wir dagegen die andere Seite: einen KI-Fan und gläubigen Bewunderer. Für Zack Kass, Ex-Manager bei Open AI (wo ChatGTP23 entwickelt worden ist) und Wanderprophet in Sache KI, ist die Installation einer maschinellen „Superintelligenz“ nur eine Frage der Zeit. Einer nicht sehr fernen Zeit. Welche Fähigkeiten wird diese Superintelligenz“ besitzen?

Ich muss darauf vertrauen können, dass mein zukünftiger KI-Assistent mir Frühstück holen kann, ohne dabei Unheil anzurichten. Das geht nicht mit einer langen Liste von Regeln, die jeden Fall genau klären. Sondern wir müssen diesem Assistenten beibringen, unsere menschlichen Werte zu respektieren und selbständig das Richtige zu tun.[14]

Mit einer langen Liste von Regeln ließe sich der Auftrag an die KI zweifellos optimieren. Aber welche Frühstückswerte soll sie wie respektieren, um „selbständig das Richtige zu tun“? Die unberechenbare menschliche Launenhaftigkeit, die wochenlang dasselbe Frühstück, aber eines morgens plötzlich ein ganz anderes will? Wie soll die KI diesen plötzlichen Umschlag erkennen? Indem sie das Subjekt, dem sie dient, frühmorgens auf veränderte sprachliche, gestische, physiognomische Zeichen hin überprüft, diese Zeichen als „Prompts“ nimmt und sie in der Küche deutet, noch bevor ihr Subjekt sich ihrer bewusst geworden ist? So dass also die KI tut, was sie will, noch bevor sie weiss, was sie will? Bevor wir diese hübsche, aber letztendlich nicht nur erfreuliche Geschichte weiter ausmalen, wollen wir auf den Begriff „Superintelligenz“ zurückkommen. Wie könnte sie entstehen? Was könnte sie werden? Jede KI kann mithilfe ihrer Programm-Struktur eine gewisse Menge Regeln generieren, die den Zweck haben, eine begrenzte Objektivität zu regulieren. Wenn nun eine Maschine eine andere Maschine programmiert, kann das nicht nur einen kumulativen, sondern auch einen reflexiven Effekt erzeugen, der Regeln generiert, die sich ihren Objekt-Bereich selbständig suchen, statt dass er ihnen vorausgesetzt wäre. Ein solcher Maschinen-Verbund könnte, würde er groß genug, das Objektive gestalten, statt es nur zu strukturieren. Umschlag der Quantität in die Qualität. Stellen wir uns vor, ein solcher Verbund würde global, würde unsere Objektivität quâ Realität umfassend und ausnahmslos regeln; nur zu unserem Besten, versteht sich. Würden wir dann dieser Realität nicht ebenso dienen müssen wie heute dem Bancomaten?[15] Kass sieht das Wirken einer solchen „alien intelligence, die nur, um uns gefällig zu sein oder bei der Stange zu halten, Output in einer Sprache generiert, wie wir sie verstehen“[16],deren ‚Denken‘ uns jedoch fremd und unverständlich bleibt, nur paradiesisch. „Ich denke, langfristig werden wir nicht mehr arbeiten.“ Der globale Maschinen-Verbund wird sich um alles kümmern: Rohstoffe, Energie, Hardware und Software der Produktion, Strukturierung und Diversifizierung, Distribution. Und was tun wir? Genießen, was uns gegeben wird, Überraschungen inklusive. Im Rahmen der globalen Programmstruktur werden wir Wünsche äußern dürfen. Und sonst? Spiele vielleicht, Spiele der Phantasie, in denen sich die Erfahrungs-Erkenntnis immer ausschließlicher mit sich selbst beschäftigt, weil sie immer neu die Erfahrung macht, dass die Welt der Algorithmen sie zwar zu objektivieren und zu realisieren versteht, aber stets ein wenig anders, als sie selbst sich ihre Objektivität vorstellt. Dieses ‚ein wenig‘ lenkt sie so lange so beharrlich auf sich selbst zurück, bis ihr die Maschinen-Realität Schein und die eigene wahre Wirklichkeit wird – und zugleich umgekehrt.

Aber haben wir nicht ein viel dringenderes Problem? Eine Klimakrise, die unseren Planeten in einen Ort zu verwandeln droht, an dem wir nicht mehr leben, geschweige denn produzieren können? Keine Angst. Auch dieses Problem wird die KI bewältigen. „Ich glaube, wir werden sehr bald durch Fusionsreaktoren unbegrenzten Energiezugang haben. Das wird die Klimakrise lösen.“ Unbegrenzter Energiezugang garantiert die Realisation unbegrenzter technischer Projekte, zum Beispiel: „Wie holen wir CO₂ aus der Atmosphäre zurück?“ Die KI gewährleistet die unbegrenzte naturwissenschaftlich-technische Formbarkeit des Planeten, den Wiedergewinn des Vertrauens in die Unerschöpflichkeit seiner Ressourcen, mit dem die moderne Zivilisation vor 300 Jahren begann.[17] Verträgt sich jedoch ‚terraforming total‘ mit Systemik und Dynamik der Biosphäre, wie wir sie allmählich zu begreifen anfangen? Steht nicht zu befürchten, dass es ihnen vielmehr zuwiderläuft, mehr Katastrophen erzeugt als verhindert, weil GAIA im großen Ganzen keiner algorithmischen Logik folgt, sondern einer autopoietischen?[18] Fragen dieser Art liegen für Zack Kass außerhalb seines Gesichtskreises, denn: „Grundsätzlich ist die Menschheitsgeschichte eine Fortschrittsgeschichte“, fortschreitend in Richtung einer stets zunehmenden Formbarkeit des Objektiven gemäss den Interessen eines homo sapiens, der ‚sapientia‘ positivistisch, mathematisch, technisch definiert. „Dann können wir alle Krankheiten heilen und […] alles bauen, was wir wollen.“ Auch die Biosphäre unseres Planeten, sofern wir unserem Willen die Form geben, die die KI will.

Ist das nun alles? Nein. Beileibe, bei Leib und Leben nicht. „Ich denke, es gibt eine gute Chance, dass ich selbst ewig leben werde. Falls ich nicht von einem Auto überfahren werde.“ Von einem KI-gesteuerten selbstfahrenden? Woran erinnert uns das alles? Vielleicht an die Zukunftsvision Charles Fouriers[19], in der die vollendete Kooperation der Menschheit am Ende auf die Natur übergreift, bis sie das Nordlicht zur Erde zieht, dessen sich ausbreitende Wärme dafür sorgt, dass bis zum 60. Breitengrad Orangen wachsen und bis zum 70. Wein? Dass sich die Meere entsalzen und den Geschmack von Limonade annehmen? Dass die Menschen zwar (noch) nicht ewig leben, aber mindestens 144 Jahre? Was die kooperativ integrierende Organisation der Menschheit in 2985 Phalansterien in ferner Zukunft bewirkt, wird, wenn wir Zack Kass glauben dürfen, die kooperativ integrierende Organisation der Algorithmen in naher Zukunft bewerkstelligen. Aus einem einfachen Grund: „Die Antwort auf alle wissenschaftlichen Fragen liegt in KI und nicht in menschlichem Denken.“ Wo sehr große Datenmengen zu verarbeiten sind, etwa in der Teilchen- oder der Astrophysik, bietet die KI wesentliche, inzwischen wohl unverzichtbare Unterstützung. Aber geht es da um wissenschaftliche Fragen? Geht es nicht vielmehr darum, wissenschaftliche Antworten bis in ihre äußerste Konsequenz zu verfolgen?

Was ist, wie bildet sich demgegenüber eine wissenschaftliche Frage? Alle wissenschaftliche Arbeit beginnt mit der Vergegenwärtigung des gewählten Gegenstandsbereichs in Grundriss, Aufbau und seinen daseinsbedingenden Vermittlungen. Dieses Grundmuster zeigt und verdeutlicht zugleich die Probleme, die gelöst werden müssen, um das Gegenstands-Modell in ein System von (Natur)Gesetzen zu verwandeln, das objektive Geltung widerspruchsfrei beanspruchen kann. Auf jene Probleme und ihre Lösung sowie auf dieses System richten sich also wissenschaftliche Fragen. Wenn der Astronom und Mathematiker Athanasius Kirchner als Jesuit und frommer Sohn der Kirche die Gültigkeit des ptolemäisch geozentrischen Sonnensystems doch noch gegen Galileo Galilei beweisen will, muss er diese Fragen beantworten.[20] Bei der Suche nach derartigen Antworten kann eine KI ohne Zweifel wertvolle Hilfe leisten. Wie aber würde eine KI wohl mit der Erfahrung umgehen, dass alle von ihr generierten Antworten nur neue Fragen erzeugen, dass aus den gelösten neue Probleme nachwachsen wie die Köpfe der Hydra? Dass also in der Problem- und Fragestellung Fehler stecken müssen, die auf das ihr programmierte Gegenstands-Modell zurückverweisen? Kirchner hat sich mit seinem Beweis die größte Mühe gegeben, immer differenziertere, immer komplexere Systeme entworfen, aber die Fehler verschwanden nicht. So dass er sich schließlich eingestehen musste, der Paradigmawechsel zum heliozentrischen System der Kopernikus und Galilei sei wohl doch unumgänglich notwendig. Paradigmawechsel – das sagt sich leicht. Für die wissenschaftliche Gemeinschaft ist das eine schwierige und schmerzliche Sache.

Paradigmata können durch normale Wissenschaft[…] nicht korrigiert werden. Vielmehr führt die normale Wissenschaft […] letztlich nur zum Erkennen von Anomalien und zu Krisen. Und diese werden nicht durch Überlegung und Interpretation, sondern durch ein […] plötzliches und ungegliedertes Ereignis gleich einem Gestaltwandel beendet. Wissenschaftler sprechen […] von den ‚Schuppen, die ihnen von den Augen fallen‘ oder dem ‚Blitzstrahl‘, der ein vorher dunkles Rätsel ‚erhellt‘.[21]

Sollte es Zack Kass und seinen Nachfolger*innen gelingen, eine KI zu kreieren, der es ‚wie Schuppen von den Augen fällt‘, deren Algorithmen plötzlich von einem ‚Blitzstrahl‘ rein andersförmiger, bisher völlig fremder Erkenntnis erhellt werden, die also fähig wird, sich aus sich selbst neu zu entwerfen, dann, erst dann könnte „die Antwort auf alle wissenschaftlichen Fragen in KI und nicht im menschlichen Denken liegen“.

Anmerkungen

[1] Die hier folgenden Ueberlegungen stützen sich auf: KI testen. Ein Gespräch zwischen Noortje Marres  und Philippe Sormani, „Zs. Für Medienwissenschaft“ 29/2023, S. 86-102.

[2] www.dr-datenschutz.de/was-ist-ein-algorithmus-definition-und-beispiele (Artikel von  Agnieszka Cernik vom 14. Oktober 2016). – Das Zitat wurde der besseren Verständlichkeit halber leicht verändert.

[3]  G.W.F. Hegel, Fragment zur Philosophie des subjektiven Geistes. Schriften und Entwürfe I, hg. von Friedrich Hogemann/Christoph Jamme. Gesammelte Werke, hg. von der Rheinisch-Westfälischen Akademie der Wissenschaften, Bd. 15, Düsseldorf 1990, S. 223.

[4]  Vgl. dazu etwa Robert Seyfert/Jonathan Roberge, Hg., Algorithmuskulturen. Über die rechnerische Konstruktion der Wirklichkeit, Bielefeld 2017.

[5]  Vgl. dazu Rebecca Solnit, Tod einer Stadt. San Francisco verkommt zum Experimentierfeld der Techmilliardäre aus dem Silicon Valley, in: „Le monde diplomatique“, April 2024, S. 12f.

[6]  „Die Vektorräume […] der GPTs […] sind reine (nicht linguistische, sondern statistische) Sprachstruktur, Sprachmuster.“ (Bernhard J. Dotzler in: Anna Tuschling/Andreas Sudmann/Berhard J. Dotzler, Hg., ChatGPT und andere „Quatschmaschinen“. Gespräche mit Künstlicher Intelligenz, Bielefeld 2023, S. 267)

[7]  „Die beeindruckenden Leistungen von ChatGTP sind […] das Ergebnis einer ganzen Reihe unterschiedlicher Algorithmen und Methoden sowie vieler teils sehr kleinteiliger Tricks.“ (Helmut Linde, so funktioniert ChatGTP, in: golem.de, 6.2.2023, https://www.golem.de/news/kuenstliche-intelligenz-so-funktioniert-chatgpt-2302-171644.html (Zugriff 29.1.2024)

[8]  Philosophische Elemente einer Theorie der Gesellschaft, hg. von Tobias ten Brink und Marc Philipp Nogueira, Frankfurt/M. 2023, S. 81.

[9]  Jorge Luis Borges, Der Garten der Pfade, die sich verzweigen; Werke in 20 Bdn, hg. von Gisbert Haefs und Fritz Arnold, Bd. 5, Frankfurt/M. 1992, S. 80-89.

[10] Die wesentliche Bedeutung von Künstlichen Intelligenzen besteht darin, dass sie „zur Umkehrung der Perspektive herausfordern, dass sie uns gleichsam den Spiegel vorhalten“, aber auch darin, „die ‘KI’ des Menschen in den Blick zu nehmen und immer wieder auch […] uns selbst als Menschen zu befragen“. (Andreas Sudmann in „Gespräche mit Künstlicher Intelligenz“, ebd. S. 268)

[11]  Vgl. dazu Evgeny Morozov, Eine andere KI ist möglich, „Le Monde diplomatique“, August 2024, S. 1 und 14-15.

[12]  René Descartes, Meditationes de prima philosophia, II/3; hg. Von Lüder Gäbe, Hamburg 1959, S. 44.

[13] Ebd. S. 43.

[14]  „Es gibt eine gute Chance, dass ich ewig leben werde.“ Zack Kass im Gespräch mit Ruth Fulterer und Michael Ferber; „NZZ“ vom 25. November 2023, S. 24. – Alle hier folgenden Zitate von Zack Kass stammen, wo nicht anders gekennzeichnet, aus diesem Interview.

[15]  Bernd Dotzler empfiehlt „Skepsis gegenüber der […] ‚Anpassung‘ an die nicht zwingend Un-, aber gewiss Nicht-Menschlichkeit der Maschine, also ihre Posthumanität, die damit […] über die Menschen kommt“. (Quatschmaschinen, ebd. S. 278)

[16]  Bernd Dotzler in „Quatschmaschinen“, ebd. S. 275.

[17]  „Ich glaube nicht, dass sie das Wildpret vertilgen werden, weil dessen in grösster Menge vorhanden ist […] Ich glaube auch nicht, dass sie die Fische auf dieser Insul vertilgen werden, zumahlen, da im Hafen und in der See alles von Fischen wimmelt.“ So der Gouverneur dieser glücklichen Insel, als er den Mannschaften der im Hafen liegenden Schiffe Jagd und Fischfang frei gibt. (Johann Georg Schnabel, Wunderliche Fata Einiger Seefahrer. Vierdter Theil, Nordhausen 1743, S. 129)

[18]  Vgl. dazu Wolfram Malte Fues, GAIA, in: Ders., Zweifel (Essays), Würzburg 2019, S. 66-86.

[19]  Vgl. zu seinem Denken zunächst die vorzügliche Darstellung von Iring Fetscher in: Walter Euchner, Hg., Klassiker des Sozialismus, Bd. 1: Von Gracchus Babeuf bis Georgi Valentinowitsch Plechanow, München 1991, S. 58-75.

[20]  „Galileo and Kirchner, though different from each other, if taken together, help us understand a century which paved the way to contemporary knowlewdge.“ (Roberto Buonanno, The Stars of Galileo Galilei and the Universal Knowledge of Athanasius Kirchner, Heidelberg/London/New York 2014, Introduction p. XII) Siehe außerdem Jocelyn Godwin, Athanasius Kirchner. Ein Mann der Renaissance und die Suche nach verlorenem Wissen; aus dem Engl. Von Friedrich Engelhorn, London 1979/Berlin 1994, S. 72-83.

[21]  Thomas S. Kuhn, Die Struktur wissenschaftlicher Revolutionen, 2. Aufl. Frankfurt/M., S. 165. – Vgl. dazu Condorcet, Entwurf einer historischen Darstellung der Fortschritte des menschlichen Geistes, hg. von Wilhelm Alff, Frankfurt/M. 1970, S. 204f.