BSI wirft KI-Anbietern laxen Umgang mit IT-Sicherheit vor

Die Chefin der höchsten deutschen Cybersicherheitsbehörde, Claudia Plattner, kritisiert die führenden KI-Anbieter für ihren laxen Umgang mit Cybersicherheit. Die Hersteller widmeten der Sicherheit ihrer Systeme bislang viel zu wenig Aufmerksamkeit, sagte die Präsidentin des Bundesamtes für Sicherheit in der Informationstechnik (BSI) dem Nachrichtenmagazin „Spiegel“. „Mir fehlen dort das Engagement und die Ernsthaftigkeit, um diese Probleme zu verhindern.“ Das gelte für alle großen Anbieter, in den USA wie in China.

Plattner forderte die Hersteller auf, unkontrollierte Angriffe durch ihre Systeme effektiver zu verhindern und ansonsten für die Folgen einzustehen: „Es ist ihr Produkt, sie müssen sicherstellen, dass so etwas künftig verhindert wird - sonst könnten sich künftig auch Haftungsfragen stellen.“

Plattner: Übliche politische Instrumente reichen nicht 

Mit der aktuellen Situation, in der immer neue IT-Sicherheitsvorfälle durch unkontrollierte KI-Agenten bekanntwerden, könne niemand zufrieden sein. „Wir brauchen eine Regulierung, die über Selbstverpflichtungen und das Versprechen, künftig ein bisschen besser aufzupassen, hinausgeht“, sagte Plattner. Die üblichen politischen Instrumente reichten dafür nicht aus. „Wir müssen technisch ansetzen: Was ist das für eine KI? Wem gehört sie? Wer hat sie beauftragt? Was darf sie? Wir müssen unsere Regeln an die neue Zeit und das Phänomen der autonom handelnden KI-Agenten anpassen.“

Zudem sei eine Stelle nötig, die prüfe, ob diese Regeln eingehalten werden. Mit einem schnellen Abflauen der IT-Sicherheitsprobleme durch KI-Agenten und den menschlichen, gesteuerten Missbrauch von KI rechnet die BSI-Präsidentin nicht: „Uns stehen unruhige Zeiten bevor.“