Künstliche Intelligenz

Zwischen strahlender Verheißung und Albtraum

Die Computertechnik hat unser Leben enorm verbessert. Doch am Ende der Entwicklung könnten Sklaverei oder gar die Auslöschung der Menschheit durch digitale Superwesen stehen

Wolfgang Kaufmann

25.01.2022

Am 27. November 2020 starb der Kopf des iranischen Atomprogramms, Mohsen Fachrisadeh, bei einem mysteriösen Mordanschlag auf seine Fahrzeugkolonne. Der Physiker und Brigadegeneral wurde auf dem Khomeini-Boulevard der Kleinstadt Absard von vier Kugeln aus einer autonom operierenden Roboterwaffe mit Gesichtserkennungssoftware getroffen, die so präzise feuerte, dass die Frau des Wissenschaftlers, welche unmittelbar neben ihm saß, unverletzt blieb. Wer hinter dem Attentat steckte, ist bis heute unklar. Auf jeden Fall handelte es sich hier aber um den geheimdienstlichen Einsatz von Künstlicher Intelligenz (KI).

Der Begriff in seiner ursprünglichen englischen Form „Artificial Intelligence“ geht auf den US-Informatiker John McCarthy zurück, der ihn 1955 erstmals verwendete. Heute gilt KI als „die Fähigkeit einer Maschine, menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität zu imitieren“ – so die Definition des EU-Parlaments. Es wird zwischen schwacher und starker KI unterschieden. Erstere dient dem Zweck, konkrete Anwendungsaufgaben zu meistern und den Menschen beim Denken und Handeln zu unterstützen. Dagegen agieren die Computersysteme der starken KI sehr viel stärker auf Augenhöhe mit ihren Schöpfern und stellen auch keine Eins-zu-Eins-Nachahmungen der kognitiven Architektur des Homo sapiens dar.

Experten warnen vor KI-Waffen

Die schwache KI kann unser Leben enorm verbessern. Man denke an Internet-Suchmaschinen und -Übersetzer, die Analyse und Vorhersage von Entwicklungen aller Art vom Wettergeschehen bis zu den Börsen, Programme zur Sprach- und Bilderkennung, selbstfahrende Verkehrsmittel, „nimmermüde“ Fertigungsroboter und so weiter. Gleichzeitig existiert aber ein erhebliches Missbrauchspotential, wie der Mord an dem Atomphysiker oder die Verwendung anderer autonom agierender Tötungsmaschinen zeigt.

Das rief im August 2017 allerlei Experten aus der Technologiebranche auf den Plan, welche die Vereinten Nationen davor warnten, dass nach der Erfindung des Schwarzpulvers und der Atombombe nun die dritte große Revolution in der Kriegführung drohe. Und „wenn die Büchse der Pandora erst einmal geöffnet ist, wird es schwierig, sie wieder zu schließen“. Deshalb, so die 116 Unterzeichner eines offenen Briefes an die UN, sollte die Weltgemeinschaft die computergesteuerten Waffensysteme ächten.

Ebenso stellt die KI ein Unterdrückungsinstrument ersten Ranges dar, wenn sie von diktatorischen Regimen genutzt wird. In China, dessen Regierung 2017 einen ambitionierten Plan zur Nutzung der KI verabschiedet hat und das bis 2030 zum unangefochtenen Spitzenreiter beim Einsatz dieser Technologie aufsteigen will, wird schon jetzt mit Hilfe von Gesichtserkennungs- und anderer Kontrollsoftware gegen unbequeme nationale Minderheiten oder die politische Opposition vorgegangen.

Seit Ende 2021 testet Peking sogar „Staatsanwälte mit Künstlicher Intelligenz“. Die sollen automatisiert Anklage bei Delikten wie „Widerstand gegen die Staatsgewalt“ und „Störung der öffentlichen Ordnung“ erheben. Dann wäre es möglich, tausende „Unruhestifter“ auf einmal im Fließbandverfahren abzuurteilen. Das klingt bereits reichlich dystopisch, ist aber nicht der Grund dafür, dass der populäre britische Physiker Stephen Hawking die KI ab 2014 als ernsthafte Bedrohung für die Menschheit bezeichnete.

Schutzgott, Diktator, „Zoowärter“

Die größte Gefahr geht von einer Perfektionierung der starken KI aus, an deren Ende die sogenannte Technologische Singularität steht, welche nach Einschätzung des US-Computerpioniers Raymond Kurzweil bereits um das Jahr 2045 eintreten könnte. Hierbei handelt es sich um den Zeitpunkt, zu dem die Künstliche Intelligenz die menschliche überflügelt, woraufhin die Maschinen anfangen, sich selbst zu vermehren und zu verbessern. Das wiederum wäre der Beginn einer Entwicklung, in deren Verlauf die Menschheit die Kontrolle über das weitere Geschehen in ihrer Welt verliert und zu einer Spezies mutiert, deren Wohl und Wehe von der in blindem Fortschrittsglauben optimierten KI abhängt, die fürderhin als sogenannte Superintelligenz (SI) agiert.

Wie der aus Schweden stammende Wissenschaftsphilosoph Max Tegmark in seinem richtungsweisenden Buch „Life 3.0: Being Human in the Age of Artificial Intelligence“ (Leben 3.0: Mensch sein im Zeitalter der Künstlichen Intelligenz) 2017 darlegte, sind mehrere Szenarien denkbar. Zum Ersten besteht die Möglichkeit der Entstehung eines „Libertären Utopia“, in dem die Superintelligenz den unterlegenen Menschen vorrangig Gutes tut. Andererseits ist nicht auszuschließen, dass die Superintelligenz den „Wohlwollenden Diktator“ mimt und unserer Art ein Leben nach ebenso rationalen wie strengen Regeln aufzwingt.

Zum Dritten hält Tegmark auch eine SI für möglich, welche als „Schutzgott“ fungiert und nur sehr verdeckt Kontrolle ausübt, weshalb dann viele Menschen an ihrer Existenz zweifeln würden. Ebenso wäre eine SI denkbar, die gegenüber dem ins technologische Abseits gedrängten Homo sapiens als „Zoowärter“ auftritt. Oder sie nimmt die Rolle des paranoiden „Torwächters“ ein, dessen Trachten neben der Niederhaltung des Menschen darauf abzielt, die Entstehung weiterer, konkurrierender Superintelligenzen zu verhindern.

Zu gar nicht so guter Letzt skizziert Tegmark zwei Szenarien, in denen die SI die Menschheit entweder auf abrupt-gewaltsame oder eher schleichende beziehungsweise feierlich-zeremonielle Art und Weise auslöscht. Das Fortbestehen unserer Spezies könnte also nicht nur deshalb gefährdet sein, weil die Natur regelmäßig Krankheitserreger mit globalem Killer-Potential wie Pestbakterien oder Pockenviren hervorbringt. Vielmehr droht theoretisch auch ein Aus aufgrund unkalkulierbarer technischer Entwicklungen.

Dieser Artikel ist ein Beitrag aus der aktuellen PAZ. Wenn Sie die Zeitung näher kennenlernen wollen, können Sie hier ein 4-wöchiges Probe-Abo abschließen .

Hat Ihnen dieser Artikel gefallen? Dann unterstützen Sie die PAZ gern mit einer

Anerkennungszahlung

Facebook X WhatsApp Drucken E-Mail

Kommentare

sitra achra am 29.01.22, 11:58 Uhr

Ich gewinne langsam den Eindruck, dass die Aliens uns bereits durch ihre humanoiden Roboter, s. Lauterbach, unter Kontrolle haben.

Ralf Pöhling am 28.01.22, 22:45 Uhr

Die Quintessenz des Artikels speist sich vermutlich eher aus den üblichen Dystopien von Science-Fictionen Filmen, ich denke hierbei an Terminator und "Skynet" oder auch Matrix, als aus der realen EDV Praxis. EDV Systeme wasserdicht zu halten, ist überaus schwierig. Die totale Kontrolle ist über so ein System allein gar nicht zu erhalten. Nicht nur, dass EDV Systeme meist durch Hacker einfach zu kapern und zu manipulieren sind, man kann ihnen auch einfach den Strom abstellen, indem man Kraftwerke sabotiert oder bombardiert oder indirekt die Festplatten durch einen atomaren EMP Blitz löscht. Der entscheidende Teil bei einem KI System ist die Frage, in welche Bereiche des Lebens es wie eingreift und ob die Menschen sich dem freiwillig unterwerfen.
Wenn sie es nicht tun, weil das System für sie nicht zum Vorteil, sondern zum Nachteil gereicht, braucht es dennoch immer noch physische Macht, um das Volk in so ein System zu zwingen. Man denke an China: Ohne echte physische Staatsgewalt wäre deren totale Überwachung und deren Social Credit System längst abgeschaltet.
Die Technik macht es nicht aus. Man kann es drehen und wenden, wie man will: Nicht Geld, keine Propaganda und auch keine noch so ausgefuchste Technik regiert diese Welt, sondern immer noch du uralte, seit Jahrtausenden vorherrschende brachiale Gewalt.
Zum Thema Dronen und KI: Die Israelis haben ein System, mit dem sie solche Drohnen per Funk deaktivieren können. Hier in Deutschland versucht man es dagegen mit Fangnetzen. Was wiederum aufzeigt, wie weit wir hier mit der Digitalisierung hinterherhinken. Und wenn man etwas nicht versteht, dann hat man natürlich Angst davor.

Chris Benthe am 28.01.22, 07:47 Uhr

Innovative Technologie braucht immer kritische Folgenabschätzung.
Wenn es um KI, also "Künstliche Intelligenz" geht, so ist die Menscheit noch Äonen von einer selbständig agierenden KI-Macht entfernt. Intelligenz benötigt Bewusstsein, und die Menschen haben noch nicht einmal im Ansatz begriffen, was das immaterielle Bewusstsein ausmacht und inwiefern es auf den Grundlagen der Quantenphysik beruht. Über das Stadium primitiver Roboter, die elektromechanisch ihre Algorithmen abarbeiten, ist die Menschheit noch nicht hinausgelangt. Der höchste Stand dieser Technologie ist auf dem Mars zu bewundern (Curiosity), demnächst, bei erfolgreicher Mission, der ExoMars Rover. Mehr ist derzeit nicht drin, und selbst diese erstaunlich selbständig agierenden Maschinen brauchen noch jede Menge menschlich intervenierenden Eingriff. Ich empfehle die Lektüre des bekannten Physikers Michio Kaku : "Die Physik des Unmöglichen". Darin wird das Thema KI ausführlich besprochen und werden die Hemmnisse zu seiner Verwirklichung erläutert.
Also: große Entwarnung ist angesagt.

Christian Schwochert am 25.01.22, 15:24 Uhr

Richtig. Das alles sind berechtigte Sorgen. Leider ist nicht davon auszugehen, dass die derzeitigen Politiker etwas gegen diese erschreckenden Entwicklungen unternehmen werden.

Siegfried Hermann am 25.01.22, 09:10 Uhr

Nennen wir das Kind doch beim Namen! Mossad.
Das Problem ist nicht die Technik, sondern Leute, die glauben wie in China gnadenlose Kontrolle von der Wiege bis zur Bahre sich alles erlauben zu können und das noch ernsthaft für richtig halten.
Die Maschine, egal wie "superintelligent" sie auch sein möge, besteht aus Nullen und Einsen, können aber nicht neue Gedanken hervor bringen!
Ob wir es schaffen bis techn. zur Matrix vorzustoßen, wer weiß, real geben sich die heutigen Mächtigen alle Mühe eine völlig surreale "Realität" den Menschen aus reiner Machtgeilheit vorzugaucklen, die keine ist und langsam und immer schneller zusammenfällt. Das nennen die "Verschwörungs-theoretiker" Erwachen.
Ergo: Es gibt Hoffnung!
Letztendlich wird der Herrgott eingreifen und den satanischen Kräften, die dato am Werke sind, in der finsteren Kerker werfen.
Und aus dem Esoterikbereich werden immer Stimmen lauter, die sagen, das wir technologisch längst auf "Enterprise"-Niveau sind, uns das verheimlicht wird, aber, wenn der Gefängnisplanet Erde von den uns umgebenen positiven Aliens gereinigt wird, allen sichtbar wird.
Aber. So lange keine harten Fakten vorgelegt werden ist das alles blühende Phantasie, die keine Maschine auch nur annähernd entwickeln kann.