ZURÜCKBLÄTTERN

VORBLÄTTERN

Negative Bilanzen der KI

Kate Crawfords Schwarzbuch verzeichnet ökologische und soziale Kosten der kapitalistisch, machtpolitisch und militärisch befeuerten Big Data Ausbeutung

Von Bernd Blaschke

Es war ein Weckruf! Spätestens vor zwei Jahren, seit den Präsentationen des Sprachprogramms Chat GPT sowie der mittels Sprachbefehlen steuerbaren Bildgeneratoren, wurde den meisten Zeitgenossen bewusst, dass eine neue Computertechnik die Welt erobert. Alle staunten, wie menschenähnlich und überzeugend die von Computerprogrammen erzeugten Texte und Bilder nun wirken. Anhand eigener spielerischer Überprüfung der Antwortkompetenzen von Chat GPT merkte man zwar oft, dass diese Textmaschinen epistemologisch nicht unbedingt verlässlich sind. Denn immer wieder erfinden sie Fakten oder seriös anmutende Quellen. Sie halluzinieren, wie auch im Bildbereich, etwa wenn sie lebensecht realistisch wirkende Bilder von farbigen SS Männern errechnen – vom Algorithmus im Sinne der Diversität programmiert –und überzeugend präsentieren.

Solche Aspekte der halluzinierenden KI-Programme stehen jedoch nicht im Mittelpunkt der Generalkritik, die Kate Crawford in ihrem weithin gelobten und mit einigen Preisen ausgezeichneten ‚Atlas der KI‘ vorträgt. Das liegt nicht nur daran, dass dieses durchweg kritisch anklagende Buch schon 2021 (also vor Chat GPT) im Original publiziert wurde. Erst 2024 wurde es dann auf deutsch vorgelegt. Vielmehr will Crawford gewissermaßen hinter die Kulissen der vermeintlich so immateriellen, sauberen und intelligenten KI-Anwendungen schauen. Die australische KI-Expertin interessiert sich für die materiellen Infrastrukturen und vor allem für die Machtpolitik, die hinter den auf Basis großer Datenmengen operierenden KI Anwendungen stehen. Die technisch-informationswissenschaftliche Logik sowie mathematische Operationsweisen der Algorithmen erklärt Crawford folglich weniger. Sie recherchiert hingegen über solch handfeste und realweltliche Dinge wie die Rohstoffe für Chips und Batterien, den Stromverbrauch der Rechenzentren, die Arbeitsbedingungen der in diesen Sektoren Beschäftigten oder die von KI Tools zur Zeiterfassung betroffenen Arbeitnehmer (etwa bei Amazon).

Crawfords Grundthese lautet, „dass KI weder künstlich noch intelligent ist.“ Diese Bezeichnung sei ein verführerischer, irreführenden Mythos. Künstliche Intelligenz sei vielmehr durchaus „materiell – hergestellt auf der Basis von natürlichen Rohstoffen, Kraftstoffen, menschlicher Arbeitskraft, Logistiken, Infrastrukturen, Geschichten und Klassifikationen.“ Die Herstellung von KI Systemen sei auf soziale und politische Infrastrukturen angewiesen und zudem auf viel Kapital. KI, also Programme maschinellen Lernens, dienen in ihren Anwendungen daher zuallererst der Erhaltung und Stärkung der Mächtigen sowie der Kapitalinvestoren. Der geläufige technikfreundliche Ausdruck ‚Künstliche Intelligenz‘ anstelle der sachlich gebotenen Rede von ‚Systemen maschinellen Lernens‘ diene der Verschleierung der Macht- und Ausbeutungsverhältnisse, die hinter diesen Systemen stehen. Mit ihrer titelgebenden Leitmetapher des ‚Atlas der KI‘ möchte die Autorin diesen Schleier lüften und die materiellen Grundlagen der KI veranschaulichen. Sie tut dies, indem sie reale Plätze der Produktionsschritte von KI aufsucht und diese als Orte ungemütlicher und ungerechter Sozialverhältnisse beschreibt.

Kapitel 1 beleuchtet die Rohstoffgewinnung als Basis der Lernmaschinen. Wobei Crawford seltsamerweise hauptsächlich auf Lithium-Minen fokussiert, welches doch eigentlich für Batterien und nicht für Chips und Rechenzentren das zentrale Rohmaterial ist. Ihr zweites Kapitel beschreibt die Auswirkungen von KI auf die Arbeitswelt und fokussiert dabei auf tayloristische Prozesse der Arbeitsteilung- und Effizienzsteigerung, auf Systeme der Zeiterfassung aber auch auf die schlechtbezahlten Crowdworker („mechanical turks“), die händisch einordnend Klassifikationen etwa bei Bilderkennungsprogrammen der KI-Entwicklung leisten. Kapitel 3 beschreibt die Gewinnung und Kapitel 5 die verzerrende Klassifikation von großen, maschinenlesbaren Datenmengen. Wobei die Autorin hier vor allem die Frühgeschichte (die 1960er bis 1990er Jahre) staatlicher Datenerfassung in Gefängnissen und anderen machtbasierten Orten inkriminiert und weniger auf die seither dominierende, aktuellere Abschöpfung der riesigen Datensätze des WWW und die damit verbundene Urheberrechtsproblematik eingeht. Kapitel 4 skizziert die epistemisch unhaltbare maschinelle Auswertung von Gesichtsausdrücken auf Basis fragwürdiger Emotionsschemata, die Wut, Freude oder Anspannung einer überwachten Person aus ihrer Mimik abzuleiten versprechen. Kapitel 6 argumentiert unmittelbar politisch. Hier geht es um den Gebrauch von KI Systemen als Mittel ausufernder Staatsgewalt in Überwachungsstaaten. Diese setzen die aus Militärforschung und Geheimdienstpraktiken stammenden Systeme zunehmend auch im Verhältnis zu ihren eigenen Bürgern ein.

Crawfords Schlusskapitel resümiert, dass die Logiken der KI Systeme zuallererst Machtsysteme seien. Und als solche forcieren sie massiv die Machtasymmetrien zwischen den weitgehend ohnmächtigen Armen und den von KI profitierenden Oberschichten in Staat und Wirtschaft. Der Atlas der KI beschreibt die Auswirkung dieser neuen Technik als Stärkung der Reichen und Mächtigen sowie als Schwächung und Ausbeutung der Schwachen, deren Daten angeeignet und deren Arbeit wie Sozialverhalten immer effektiver kontrolliert werden. Diese neueste Computertechnik forciere die Steigerung technokratischer Macht. Sie bewirke die Konzentration wirtschaftlichen Kapitals bei den wenigen, gleichsam oligarchischen Profiteuren der neuen Technikimperien. Das leuchtet ein, zumindest solange, wie es staatlichen, demokratischen Akteuren nicht gelingt klare Regeln von Machtausübung, Kontrolle, Datenschutz und Urheberrechten zu setzen und durchzusetzen – sowie  die exorbitanten Gewinne von KI-Profiteuren sozialverträglich zu besteuern.

Problematisch ist freilich Crawfords zentraler Begriff ihrer Kritik an Umweltzerstörung und Ausbeutung sozial Schwächerer. Mit dem Wort ‚Extraktion‘ werden destruktive und ungerechte Verhältnisse in den diversen Handlungssphären beschrieben oder vielmehr: angeklagt. Allerdings ist ihre Begriffsverwendung dabei nicht gerade präzise. Denn der selbstredend kritisch gemeinte Begriff ‚Extraktion‘ verwischt oder unterschlägt die ökologisch im Hinblick auf Knappheiten doch kardinalen Unterschiede zwischen extrahierten, nicht nachwachsende Rohstoffen und den ‚extrahierten‘ Arbeitsleistungen von mehr oder weniger qualifizierten Crowdworkern. Und auch die neuerlich anders gelagerte Abschöpfung von massiv wachsenden Datenmengen im Internetzeitalter wird als ‚Extraktion‘ inkriminiert. Dabei sind Daten im Internet offensichtlich kaum erschöpflich und sie wachsen (bereitwillig von allen online schreibenden und Bilder veröffentlichenden Social Media Nutzern generiert) ständig massenhaft nach. Womit die Abschöpfung oder Aneignung dieser Daten in einem ganz anderen Rahmen steht als das Ausbeuten endlicher Mineralien oder fossiler Energieträger.

Sinnvoller als Crawfords ubiquitäre, anklagende Rede von Extraktionen in allen möglichen Bereichen wäre die Rede von mehr oder weniger legitimen oder unfairen Aneignungen und Privatisierungen von Daten, Rohstoffen, Arbeitsleistungen oder Urheberrechten. Und wünschenswert zur Einschätzung des sozialen Nutzens oder Schadens der Entwicklungen von KI-Werkzeugen wäre eine Gegenüberstellung der sozialen Vorteile und der Schädigungen, welche die neue Technik im Hinblick auf verschiedene gesellschaftliche Gruppen (jung und alt, Wissensarbeiter, Kreative und Sachbearbeiter, blue collar Jobber, minoritäre Randgruppen oder Mainstream-Bürger) bewirken kann und wird.

Crawfords grundsätzliche Kritik lautet, KI nutze nur den Mächtigen und den Investoren und sie schade den sozial Schwachen und Vulnerablen, indem sie diese ausbeute, manipuliere und systematisch überwache. Dies trifft in mancher Hinsicht gewiss zu; wobei Crawford freilich konsequent den realen Nutzen, den KI auch für das Leben jener nicht in KI Firmen Investierten oder von Massenüberwachung profitierenden Machtmenschen haben kann, übersieht. Gleiches gilt in ökologischer Hinsicht: es trifft zu, dass fürs Trainieren und Anwenden von KI Strom in erheblichen Mengen verbraucht wird. Doch stehen dem ökologische Fortschrittsversprechen gegenüber – und teilweise auch schon vorliegenden Anwendungen etwa von Smart Grids der Stromspeicherung und Verbrauchssteuerung mittels KI. Das optimistische Szenario – von dem Crawford nichts wissen möchte – lautet, dass durch diese Big Data Techniken und Steuerungen erhebliche ökologische Spar- und Umbaupotenziale realisiert werden können.

Die Gretchenfrage lautet hier: ist die bisher bestenfalls grob abzuschätzende Gesamtbilanz von KI Entwicklungen und Anwendungen in ökologischer Hinsicht positiv und wünschenswert? Oder ist sie, wie man es im Hinblick auf die dysfunktionalen Crypto-Währungen wie Bitcoin mit triftigen Gründen behaupten kann, doch weitgehend negativ? Im Falle von künstlicher Intelligenz deutet vieles darauf hin, dass die ökologische Kosten-Nutzenrechnung durchaus für die Entwicklung von KI-Anwendungen sprechen könnte. Das ist freilich heute noch nicht gewiss. Doch zu so einer wichtigen Gesamtabschätzung, wie vorläufig sie auch immer sein mag, leistet Crawford keinen Beitrag. Denn sie hat kaum einen Blick für nützliche, sozial erfreuliche Anwendungen von KI übrig, wie sie sich im Bildungsbereich (individualisiertes Lernen), in der medizinischen Forschung, in der Zugänglichkeit von rechtlichem oder vielfältig anderem Expertenwissen doch schon recht sicher abzeichnen. Statt eines gewissermaßen bilanziellen Abwägens und Aufrechnens von verschiedenen Schadens- und Nutzenblöcken dieser neuen Technologie stellt sie anklagend einzelne Zahlen in den Raum. Ihr Atlas der KI belässt es mithin ohne eine Vergleichung beim kritisch klagenden Raunen. Diese einseitige Negativbilanz droht mithin ebenso wie ihre einzelnen Zahlen oder ihre reportagehaft um Anschaulichkeit bemühten Ortsbesuche argumentativ arg ins Leere zu laufen.

Crawford beweist in ihrem Buch wenig Gespür für Zahlen und nahezu gar keines für aufschlussreiche Vergleiche im Ökonomischen. Sie raunt, dass der Markt für maschinelle Gesichtserkennung 19 Milliarden Dollar umfasse… Das ist allerdings nicht gerade viel, wenn man es mit den Umsätzen anderer Industrien vergleicht (was sie nicht tut) oder mit den Geschäftszahlen großer IT- oder Softwareunternehmen. Auch Crawfords Kritik, dass Crowdworker beim Labeln und Kategorisieren von Bildern zur künstlichen Bilderkennung unterbezahlt seien, würde doch nur zu einem starken Argument und plausibel, wenn man deren Bezahlung mit anderen Jobs vor Ort, oder auch mit den Einkommen der hochbezahlten KI-Software Entwickler vergliche.

Crawfords Atlas kartiert gewissermaßen nur The dark Side of the AI-Moon. Es taugt als Augenöffner dafür, dass die künstliche Intelligenz in vieler Hinsicht auf materiellen Ressourcen und nicht nur auf toll bezahlten, genialen Programmiernerds beruht, sondern auch auf vielen schlecht bezahlten Arbeitskräften und auf höchst fragwürdigen Aneignungen von Datenmassen. Als echtes Handbuch oder wirklich global umsichtiger Atlas zu den materiellen Grundlagen der Herstellung und der Anwendungsmöglichkeiten von KI taugt Crawfords weithin gelobtes Buch wohl nicht.

Für Risiken, Ungerechtigkeiten und Nebenwirkungen von KI-Systemen fragen sie Kate Crawford. Für eine ausgewogenere Abschätzung der utopischen wie dystopischen Potenziale warten Sie weiter auf ein umsichtiges Handbuch zu diesem sehr dynamischen Feld des Wissens (und der Macht) – oder lesen Sie bis auf weiteres die Kontroversen zum Thema in den Qualitätsmedien ihres Vertrauens.

Kate Crawford: Atlas der KI. Die materielle Wahrheit hinter den neuen Datenimperien. Aus dem Englischen von Frank Lachmann. Verlag C.H.Beck, München 2024. 336 Seiten , 32,00 EUR. ISBN-13: 9783406823336 Weitere Rezensionen und Informationen zum Buch