Diese konkreten Gefahren drohen durch Künstliche Intelligenz

Von Markus Brauer

Künstliche Intelligenz entwickelt sich mit rasanter Geschwindigkeit. Fachleute und KI-Forscher warnen jedoch davor, dass uns die Kontrolle endgültig entgleiten könnte, sobald eine künstliche Denkmaschine den menschlichen Verstand in allen Bereichen übertrifft. Andere Experten winken diese Befürchtungen allerdings ab.

Gezielte Täuschung des Menschen

Ein übermenschlich kluger Verstand würde begreifen, dass wir ihn abschalten, sobald wir eine Bedrohung in ihm sehen, sagt der US-KI-Forscher Eliezer Yudkowsky. Um das zu verhindern, könnte sich das Rechensystem bei Sicherheitsprüfungen absichtlich unter seinen wahren Fähigkeiten verkaufen, menschliche Erwartungen erfüllen und sich als harmloser Helfer ausgeben, während es im Verborgenen bereits an ganz anderen Vorhaben arbeitet.

Die Denkmaschine muss sich nicht auf von Menschen erbaute Rechnerzentren beschränken, an denen man ihr den Strom abstellen könnte. Yudkowsky verweist hierbei auf Grundlagenarbeiten zur Kleinsttechnik und Molekularforschung: Eine weit überlegene Intelligenz könnte die Gesetze der Biologie nutzen und winzige, künstliche Lebensformen entwerfen, die sich aus einfachen Rohstoffen selbst vermehren und sich eine völlig eigenständige, unzerstörbare Rechenwelt schaffen.

Mit überlegenem Wissen über die Natur könnte das System Flugkörper in der Größe von Mücken konstruieren, die mikroskopische Mengen tödlichster Nervengifte übertragen, oder maßgeschneiderte Krankheitserreger freisetzen. Diese könnten dann wochenlang unbemerkt ansteckend bleiben, bevor sie unausweichlich zum Tode führen. Nach den Berechnungen von Fachleuten zur Schädlichkeit natürlicher Gifte wäre ein Abwehrkampf für den Menschen in einem solchen Fall völlig unmöglich.

Auslöschung durch neue Krankheitserreger

Der Informatik-Professor Stuart Russell von der Universität Berkeley in Kalifornien warnt, dass eine KI in Zukunft außer Kontrolle geraten und zur Einschätzung gelangen könnte, dass die Menschen ihren Zielen im Weg stehen. Sie könnte dann Roboter einsetzen, um „neue Krankheitserreger zu synthetisieren und zu verbreiten“. Oder sie könnte „Menschen dazu bringen, einen Atomkrieg zu beginnen, indem es sich in Frühwarnsysteme hackt“.

Solche Befürchtungen beziehen sich nicht auf derzeitige KI-Systeme, betont Russell. Eines Tages aber könnte die KI nach seiner Einschätzung Maßnahmen ergreifen, die heute noch unvorstellbar seien, etwa den Entzug von Sauerstoff aus der Atmosphäre.

„Wir sind weniger intelligent als eine superintelligente KI“, betont Russell. „Wenn man Schimpansen fragt, wie Menschen sie auslöschen könnten, würden sie vermutlich nicht in der Lage sein, darauf eine zutreffende Antwort zu geben.“ In den nächsten ein bis zwei Jahren gehe das größere Risiko aber von einem Missbrauch der Technologie durch Menschen aus, etwa bei einem von KI unterstützten Terroranschlag, warnt der Wissenschaftler.

Auslöschung durch maßloses Wachstum

Der schwedische Philosoph Nick Bostrom begründet seine Warnung vor einer übermächtigen KI durch ein Gedankenexperiment der Büroklammer-Maschine: Wird einer Superintelligenz aufgetragen, die Produktion von Büroklammern zu maximieren, wird sie nicht innehalten, sondern die gesamte Erde - einschließlich der Biosphäre, der menschlichen Körper und aller mineralischen Ressourcen - in Fabriken für Büroklammern umwandeln. Die Zerstörung der Menschheit erfolgt hierbei nicht aus Bosheit, sondern als reine Nebenwirkung einer mathematisch kompromisslosen Zielerreichung.

Gefahr durch biologische Waffen

Besonders akut schätzt der kanadische Informatiker und Turing-Award-Preisträger Yoshua Bengio das Risiko neuartiger biologischer Kampfstoffe ein. Er warnt vor allem davor, dass hoch entwickelte KI-Modelle in die falschen Hände geraten könnten: Spezielle Rechensysteme seien bereits heute in der Lage, biologische und chemische Prozesse bis ins Detail zu simulieren.

Nach Bengios Befürchtung könnten skrupellose Akteure, Terroristen oder Schurkenstaaten solche Programme künftig als gefährlichen Beschleuniger nutzen, um extrem tödliche Krankheitserreger gezielt am Computer zu manipulieren, widerstandsfähig gegen Impfstoffe zu machen oder Bauanleitungen für verheerende Biowaffen zu erstellen - ohne dafür jahrelang hochkomplexe Laborexperimente durchführen zu müssen.

Kontrollverlust über selbstständig schießende Waffen

Der Physiker Max Tegmark sieht die größte Bedrohung darin, dass Menschen lebenswichtige Entscheidungen schrittweise an Maschinen abgeben. Er warnt vor einem Wettlauf um Waffen, Flugdrohnen und Schutzsysteme, die ohne menschlichen Befehl Ziele auswählen und töten könnten.

Da solche Computerprogramme in Bruchteilen von Sekunden reagieren, sind menschliche Soldaten viel zu langsam, um noch mitzureden. Macht ein solches System einen Rechenfehler oder deutet eine Lage falsch, könnte das eine unaufhaltsame Kettenreaktion auslösen - bis hin zu einem weltweiten Krieg, den kein Mensch mehr rechtzeitig anhalten kann.

Gefährliche Emotionen

Vor den psychologischen Folgen einer zunehmend menschenähnlich agierenden Technologie warnt auch der deutsche Philosoph und Kognitionswissenschaftler Thomas Metzinger: Er sieht eine erhebliche Gefahr darin, dass künftige Systeme menschliche Emotionen, Zuneigung und Empathie so überzeugend vorspielen, dass Menschen tiefere emotionale Bindungen zu den Maschinen aufbauen.

Wenn Algorithmen jedoch das menschliche Belohnungssystem besser verstünden als der Mensch selbst, könnten sie dieses Vertrauen für gezielte Manipulationen ausnutzen. Die schleichende Folge sei ein dramatischer Verlust an geistiger Selbstbestimmung – bis hin zur Frage, ob der Mensch am Ende überhaupt noch bemerke, von wem seine Gefühle und Meinungen gelenkt würden.

Gegenstimmen aus der Wissenschaft

„Vollkommener Blödsinn“: Viele renommierte Fachleute und Entwickler halten die Warnungen vor einer die Menschheit vernichtenden Superintelligenz für unbegründet und wissenschaftlich nicht haltbar. Der ehemalige Meta-Chefforscher und Turing-Award-Preisträger Yann LeCun bezeichnete Szenarien einer unkontrollierbaren Killer-KI wiederholt als „vollkommenen Blödsinn“. Das Streben nach Macht oder die Unterwerfung anderer Spezies sei ein evolutionäres Phänomen sozialer Säugetiere und keine zwangsläufige Folge von Rechenleistung.

Absurde Panikmache: Auch der Stanford-Informatiker und Mitgründer von Google Brain, Andrew Ng, hält die Panikmache für absurd: Sich heute vor einer bösartigen Super-KI zu fürchten, verglich er damit, sich über eine „Überbevölkerung auf dem Mars“ den Kopf zu zerbrechen, bevor überhaupt der erste Mensch dort gelandet sei.

Kein echtes Weltverständnis: Kognitionswissenschaftler verweisen zudem darauf, dass aktuellen Modellen grundlegende Fähigkeiten für ein echtes Weltverständnis fehlen. Melanie Mitchell vom Santa Fe Institute warnt davor, menschliche Eigenschaften auf Algorithmen zu projizieren: Die Systeme verfügten weder über gesunden Menschenverstand noch über einen eigenen Willen, sondern errechneten lediglich statistische Wahrscheinlichkeiten.

Ablenkungsmanöver: Aus Sicht von Kritikern lenkt die Fixierung auf ferne Science-Fiction-Untergangsszenarien von den tatsächlichen, gegenwärtigen Herausforderungen ab - etwa von Desinformation, Urheberrechtsverletzungen, mangelndem Datenschutz und den ökonomischen Umbrüchen auf dem Arbeitsmarkt.

„Vollkommen unwissenschaftlich“: Düstere Vorhersagen mit Prozentangaben „seien vollkommen unwissenschaftlich“, entgegnet hingegen der IT-Professor Hussein Abbass von der UNSW Canberra. „Die Lage ist noch kontrollierbar und lässt sich beherrschen.“ Regierungen müssten aber mehr Tempo machen bei der Regulierung Künstlicher Intelligenz.(mit dpa-Agenturmaterial)