Ärger um die Plattform „X“

EU ermittelt gegen Musks „X“ wegen sexualisierter KI-Bilder

Der umstrittene Chatbot Grok des US-Milliardärs Musk verstößt womöglich gegen EU-Regeln. Es ist nicht das erste Verfahren gegen die umstrittene Plattform.

Von Knut Krohn

Erneuter Ärger für Elon Musk in Europa. Die EU-Kommission geht wegen sexualisierter KI-Bilder von Frauen und Kindern gegen den Chatbot Grok des US-Milliardärs vor. EU-Kommissionspräsidentin Ursula von der Leyen erklärte am Montag, Europa werde ein „unfassbares Verhalten wie das digitale Entkleiden von Frauen und Kindern nicht tolerieren“. Die EU werde nicht akzeptieren, dass große Digitalkonzerne an solchen Bildern Geld verdienen.

Die EU kämpft gegen Hass im Internet

In der nun eingeleiteten Untersuchung soll geklärt werden, ob das Unternehmen „die Risiken im Zusammenhang mit der Implementierung der Grok-Funktionen“ minimiert hat, heißt es in einer Mitteilung der Behörde. Dabei geht es darum, dass Nutzer von „X“ den KI-Chatbot Grok dazu auffordern konnten, freizügige, sexuell explizite Bilder von Menschen zu generieren. Nach Ansicht der Kommission zählt dazu auch „möglicherweise kinderpornografisches Material“. Bestätigen sich die Vorwürfe, wäre das ein Verstoß gegen das EU-Gesetz über digitale Dienste (DSA). Mit dem Gesetz nimmt die EU große Internetplattformen in die Pflicht, verbotene Inhalte zu löschen. Dazu gehören sexualisierte Bilder, Kinderpornografie, Morddrohungen und Nazi-Symbole, die im Internet ebenso verboten sind wie auf der Straße.

Die Entwickler von Grok hatten bereits auf erste Beschwerden von Nutzern reagiert. An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter „in sexualisierten Outfits“ erstellt und geteilt zu haben. Aber erst als sich die heftige internationale Kritik nicht legte, kündigte Musks KI-Firma xAI schließlich Mitte Januar an, neue Schranken für anzügliche KI-Bilder einzuziehen. Es seien „technologische Maßnahmen“ eingeführt worden, die die Bearbeitung von Bildern realer Personen mit leichter Bekleidung wie Bikinis verhindern sollen, teilte die zu xAI gehörende Online-Plattform X mit. Diese Beschränkung gelte sowohl für kostenlose Accounts als auch für zahlende Nutzer. Es war nicht das erste Mal, dass der Chatbot für Ärger sorgte. Im Sommer hatte Grok bereits mit Lobpreisungen auf Adolf Hitler schockiert.

Eine mehr als umstrittene Funktion von Grok

Nicht nur in der EU wurden in den vergangenen Tagen wegen der umstrittenen Funktion Ermittlungen eingeleitet. Malaysia sperrte Grok und kündigte rechtliche Schritte gegen „X“ ein. Der US-Bundesstaat Kalifornien startete eine Untersuchung. Auch die britische Medienaufsichtsbehörde Ofcom hatte Mitte Januar eine offizielle Ermittlung gegen Musks Online-Plattform eingeleitet. Als Grund gab die Behörde ebenfalls die von Grok sexualisierten Bilder an. Dies könne mitunter als Missbrauch gewertet werden, hieß es in einer Mitteilung. Der britische Premierminister Keir Starmer nannte die Erzeugnisse der KI „widerlich“.

Nach Angaben der US-britischen Nichtregierungsorganisation Zentrum gegen Hass im Internet hat der umstrittene Chatbot rund drei Millionen KI-Bilder von Frauen und Mädchen im Bikini und in sexualisierten Posen veröffentlicht. Darunter seien geschätzte „23 000 Bilder, auf denen offenbar Kinder gezeigt werden“, heißt es in einem Bericht. Die anzüglichen Bilder habe Grok in einem Zeitraum von elf Tagen erzeugt und im Onlinedienst X veröffentlicht.

Nicht die erste Ermittlung gegen „X“

In Brüssel läuft bereits ein Verfahren gegen X wegen der Verbreitung umstrittener Inhalte, etwa Gewaltdarstellungen und Hassreden. Die Ermittlungen im Zusammenhang mit dem Chatbot Grok kommen nun dazu. Außerdem will die Kommission die Empfehlungssysteme auf der Plattform überprüfen, die darüber entscheiden, was Nutzern angezeigt wird. Diese basieren inzwischen ebenfalls auf der Künstlichen Intelligenz hinter Grok.

Anfang Dezember hatte die Kommission bereits eine erste Strafe in Höhe von 120 Millionen Euro gegen X verhängt. Damals ging es unter anderem um mangelnde Transparenz bei der Werbung. Washington reagierte damals scharf, sprach von Zensur und verhängte Einreiseverbote unter anderem gegen den französischen Politiker Thierry Breton, der als einer der Architekten der EU-Digitalgesetze gilt. US-Außenminister Marco Rubio schrieb zur Begründung der Einreisesperren auf „X“, es würden gezielt amerikanische Plattformen attackiert. Man sei bereit, die Liste zu erweitern, wenn es keine Kurskorrektur gebe. Elon Musk selbst sprach sich dafür aus, die EU abzuschaffen.