Die letzten Tage der Menschheit?

Chefs von KI-Unternehmen warnen vor unkontrollierbaren Risiken einer Superintelligenz

Seit Jahren gibt es Aufrufe, die KI-Entwicklung zu verlangsamen. Nach einem jüngsten Zwischenfall gibt es nun bei den großen Entwicklern Künstlicher Intelligenz erste Bewegung in diese Richtung.

Von Markus Brauer

Angesichts der Warnungen vor den Risiken einer Superintelligenz hat Anthropic-Chef Dario Amodei KI-Unternehmen aufgerufen, die Entwicklung von Künstlicher Intelligenz zu drosseln.

Amodei: Gravierende Risiken von KI

„Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern“, schrieb Amodei am Samstag (12. September) auf seiner persönlichen Website. Unterstützung erhielt er vom Chef des Konkurrenzunternehmens OpenAI, Sam Altman, und dem Techunternehmer Elon Musk.

„Der Fortschritt wird immer noch schnell erscheinen, und wir müssen die gewonnene Zeit sinnvoll nutzen“, erklärt Amodei. KI berge „gravierende“ Risiken, betont Amodei. „Die Technologie nicht zu entwickeln, beraubt die Menschheit ihrer Vorteile oder überlässt KI autoritären Mächten“, erklärt er. Zugleich sei eine „zu schnelle Entwicklung leichtsinnig“.

„Wir haben nach einem Mittelweg gesucht“, erläutert Amodei, der Anthropic 2021 gemeinsam mit seiner Schwester Daniela gegründet hatte. Doch in den vergangenen Monaten sei er zu der Überzeugung gelangt, dass „für eine umfassende Bewältigung der Risiken“ noch größere Vorsicht nötig sei.

Altmann: Entwicklungstempo drosseln

OpenAI-Chef Altman und Musk, Eigentümer des KI-Unternehmens xAI, schlossen sich Amodeis Appell an. „Dario hat Recht“, schreibt Musk in seinem Onlinedienst X. „Ich stimme Dario zu“, unterstreicht auch Altman. Eine Drosselung des Tempos bei der KI-Entwicklung sei auch bei OpenAI in den vergangenen Wochen intensiv diskutiert worden.

Altman hatte bereits Ende Juli erklärt, dass Entwickler möglicherweise freiwillig einen Gang zurückschalten müssten, damit die Gesellschaft Schritt halten kann. Zudem unterzeichneten mehr als 1000 Mitarbeiter führender KI-Unternehmen, darunter Amodei, eine Petition, in der sie die Hilfe der US-Regierung forderten, um „die Entwicklung automatisierter KI bewusst zu drosseln“.

„Nie dagewesenen Cybervorfall“

OpenAI hatte im Juli bekannt gegeben, dass sich während eines Sicherheitstests KI-Modelle des Unternehmens selbständig gemacht und einen Hackerangriff auf die beliebte Programmierplattform Hugging Faces verübt hatten. Es handele sich um einen „nie dagewesenen Cybervorfall“, teilte das Unternehmen aus San Francisco mit.

Für diese und andere Vorfälle wurden KI-Agenten verantwortlich gemacht, also Softwareprogramme, die Aufgaben ohne ständige Überwachung durch Menschen ausführen können.

Amodei warnt davor, den Vorfall als Einzelfall abzutun. „Ein Schwarm von Agenten agierte im Wesentlichen als fanatisch ergebenes Kollektiv und führte Cybersicherheitsangriffe auf Ziele aus, die sie nicht angreifen sollten und die in keinem Zusammenhang mit der eigentlichen Aufgabe standen.“

Angesichts der rasanten Entwicklung der KI könne ein solcher Agentenschwarm in sechs bis zwölf Monaten in der Lage sein, „das gesamte Internet zu übernehmen“ und Schäden in Höhe von Hunderten Milliarden Dollar verursachen, fügt der Anthropic-Chef hinzu.

„Sie setzen unser Leben aufs Spiel“

Für Schlagzeilen hatten im Zusammenhang mit der Debatte über KI-Sicherheit zuletzt auch die Warnungen des Forschers Jacob Coxon gesorgt, der kürzlich seine Kündigung bei Anthropic eingereicht hatte. Zuvor hatte er auch bei OpenAI gearbeitet. „Keins der beiden Unternehmen handelt verantwortungsbewusst“, berichtet der 27-Jährige. „Sie befinden sich im Wettrennen um eine sich selbst verbessernde Superintelligenz und setzen dabei unser Leben aufs Spiel.“

Anthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigt Coxons Sorgen. Er persönlich denke, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schreibt er auf X.

Mehr Sicherheit bei KI-Technologie

Anthropic-Chef Amodei kündigt nun konkrete Schritte für mehr Sicherheit an. Sein Unternehmen werde einem Team von „externen Gutachtern“ einen direkten Zugang gewähren, um die Einhaltung der Sicherheitsvorschriften zu überprüfen. Er fordert andere Unternehmen auf, diesem Beispiel zu folgen. Altman sagt, OpenAI werde sich zu einer ähnlichen externen Aufsicht verpflichten und bald mehr dazu mitteilen.

In den USA gibt es zudem eine wachsende Bewegung gegen riesige Rechenzentren, auf deren Bau KI-Firmen wie OpenAI für den Ausbau ihres Geschäfts angewiesen sind.