Vor genau 30 Jahren prophezeite der amerikanische Science-­Fiction-Schriftsteller Vernor Vinge bereits die Ver­wirklichung der so genannten Singularität: «Within thirty years, we will have the technological means to create superhuman intelligence. Shortly after, the human era will be ended.»

Ominöser Singular

Das Konzept der Singularität stammt ursprünglich aus der Mathematik und Kosmologie, wurde aber von Vinge und seinem Landsmann, dem IT-Unternehmer Ray Kurzweil, als Moment eines unumkehrbaren technologischen Durchbruches in der Entwicklung von künstlicher Intelligenz (KI) adaptiert und in Büchern und Filmen popularisiert. Mit dem von Kurzweil prognostizierten Datum im Jahr 2045 verbindet sich die Hoffnung auf die Lösung ALLER Menschheitsprobleme wie Alter, Krankheit, Tod, Armut und Überbevölkerung etc.

Bemerkenswert an dieser Zukunftsvision ist, dass stets von der einen künstlichen Intelligenz gesprochen wird, die in Kürze alles natürliche Denken transzendieren werde. Der Philosoph Yuval Harari vermutet gar, dass der Glaube an die eine, erlösende KI zur Ausbildung einer neuen Religion führen werde. Ganz offensichtlich aber entspricht der Singular der KI nicht dem tatsächlichen technischen Fortschritt, bei dem wir stets von einer Pluralität verschiedener Computerprogramme ausgehen müssen, die bestimmte Aufgaben erfüllen. An dieser Beobachtung zeigt sich, wie sehr es kulturelle Ideen sind, mit denen der recht diffuse Begriff der KI – im Singular – aufgeladen wird. Es erscheint daher vielversprechend, sich dieser Kultur­geschichte künstlicher Intelligenz und ihrem normativen Gehalt zu widmen.

Schachmatt

Der britische Mathematiker Irving John Good gilt als Urheber der Idee einer computertechnischen Superintelligenz, die durch eine «Intelligenzexplosion» aus dem Vorhandensein von quasi unbegrenztem Speicher und extrem schnellen Prozessoren emergieren würde. Good war ab 1941 in Bletchley Park an der Entwicklung des ersten elektronischen Computers, des Colossus, unter der Leitung von Alan Turing beteiligt und wirkte später an der Virginia Tech University in den Vereinigten Staaten. Seinen berühmten Aufsatz von 1965 «Speculations Concerning the First Ultraintelligent Machine» leitet Good mit einem prophetischen Bekenntnis ein: «The survival of man depends on the early construction of an ultra-intelligent machine.» Dieser Computer, den Good bis zum Ende des 20. Jahrhunderts erwartet hatte, werde dem Menschen in der Speicherung und Verarbeitung von Informationen weit überlegen sein. Als erste Anwendung und damit als Massstab zur Messung der Intelligenz führte er das Schachspiel ein, das er selbst mit Passion betrieb. Diese Wahl war folgenreich, da nun bis zum Sieg des IBM-Computers Deep Blue über den Weltmeister Garri Kasparov im Jahr 1996 Schach als Indikator für die Verwirklichung einer dem Menschen ebenbürtigen KI galt.

Good verband mit den Supercomputern allerdings auch eine politische Vision: Schon 1962 – auf dem Höhepunkt der Kuba-Krise – spricht er davon, dass die künftigen ultraintelligenten Maschinen der Russen und Amerikaner zu einer einzigen Weltregierung verschmelzen und einen dauerhaften Frieden garantieren könnten: «Orakel aller Lander vereinigt euch!» war seine Devise.

Von Science zu Science-Fiction

Gleich in zwei bedeutenden Fällen waren Irving Goods Ideen nun richtungsweisend für populäre Werke der Science-Fiction, die bis zu den heutigen Techno-Utopien der Post- und Transhumanisten unsere Vorstellungen von einer überlegenden Computerintelligenz prägen. Da ist zum einen der alles beherrschende Bordrechner HAL 9000 eines Forschungsraumschiffes in Stanley Kubricks Film 2001: A Space Odyssey. Das filmische Meisterwerk von 1968 entstand parallel zu dem gleichnamigen Roman von Ar­thur C. Clarke. Dieser vermenschlichte Computer, der ohne Körper nur durch sein rotes Kameraauge das Schiff überwacht, ist schliesslich so sehr von seiner eigenen Perfektion überzeugt, dass er sich keine Fehler eingestehen kann und beginnt, die menschlichen Astronauten zu ermorden. Der Film endet damit, dass es dem letzten Überlebenden der fünf Astronauten gelingt, den Computer abzuschalten. Lange bevor in jeder Vorstadtfamilie wenigstens ein Commodore-64-Homecomputer die Jugendlichen begeisterte, verkörperte der Computer HAL ein nichtmenschliches und nichtgöttliches Gegenüber, das in seiner Macht (innerhalb des Raumschiffes) den Menschen weit übertraf. Die Kybernetiker Marvin Minsky und eben Irving Good fungierten nicht nur als wissenschaftliche Berater des Regisseurs, sondern wurden bereits in der Romanvorlage von Clarke als Erfinder neuronaler Netze in der fiktiven Computerwissenschaft der 1980er Jahre gepriesen.

Auch der polnische SF-Autor Stanisław Lem bezieht sich in seiner Erzählung GOLEM XIV (dt.: Also sprach Golem) von 1981 auf Good. Eigentlich für militärische Zwecke ersonnen, wurde der Supercomputer GOLEM XIV nach einigen misslungenen Tests zum Massachusetts Institute of Technology in Boston abgestellt, wo er mehrere philosophische Vorlesungen über den Menschen, sich selbst und den Sinn des Lebens hält (die Vorlesungen werden fiktiv von «Irving T. Creve» ediert). In seiner ersten anthropologischen These konstatiert das Elektronenhirn, dass der Sinn des Menschen nur seine «Botschaft» sei, da die Organismen deren Übermittlung dienen würden und nicht die «Botschaft» den Organismen. Aus Sicht des GOLEM stellt der Mensch daher ein Übergangswesen dar, das seinen Sinn lediglich darin habe, wirklich «vernunftbegabte Wesen», nämlich Computer, zu bauen.

Unschwer lassen sich in diesen visionären und populären Bildern der künstlichen Intelligenz die Konturen des europäischen Geniebegriffes des späten 19. Jahrhunderts erkennen. Unabhängig von aller Parteilichkeit würde die schiere Masse an vorhandener Intelligenz alle Weltprobleme durch die überwältigende Kraft einer rationalen Vernunft lösen können – es ist deshalb kein Zufall, dass Schach so häufig als Indikator für ebendiese geniehafte Intelligenz herangezogen wurde.

Die gravierendste Konsequenz dieser Inszenierung einer scheinbar weltenthobenen Superintelligenz ist die Ausblendung des menschlichen Faktors in der realen KI-Entwicklung unserer Tage. Als es zu Beginn der 2000er kaum Fortschritte in der Forschung gab, verhalf eine immense Erweiterung der visuellen und textlichen Datenmengen, diese Schwierigkeiten zu beheben. Diese millionenfachen Daten müssen jedoch im Prozess des data labeling zunächst von Menschen zugeordnet werden, z.B. dass auf einem Bild eine tierische Maus zu erkennen ist, selbst wenn sie verletzt oder tot ist. Auch Kommunikationsprogramme wie Chat­GPT (Generative Pre-trained Transformer) beruhen auf diesem umfangreichen Training mit Hilfe menschlicher Akteure, damit die KI z.B. keine anstössigen Gewalt- oder Sexfantasien produziert. Zwar werden auch die verbreiteten Captcha-Aufgaben zum Training von KI genutzt, in der Regel aber werden hier data worker vor allem aus dem globalen Süden zu Dumpinglöhnen eingesetzt. Eine psychologische Betreuung für dieses digitale Sortieren von erwünschten wie unerwünschten menschlichen Verhaltensweisen im Auftrag globaler IT-Konzerne wird kaum geleistet.

Alles andere als autonom

Während im technophilen Diskurs des Westens über die Singularität und die Chancen und Risiken der KI für die sehr abstrakte «Zukunft der Menschheit» debattiert wird, bringt das ganz reale KI-Training ein weltweites, digitales Prekariat hervor. Die Mystifizierung einer autonom erscheinenden KI erweist sich dabei als äusserst hilfreich, um die ausbeuterischen ökonomischen Strukturen zu verschleiern. Eine ethische Debatte über KI muss an diesem Punkt ansetzen.