xAI unter Druck: Kalifornien fordert Stopp von Deepfakes

Der kalifornische Generalstaatsanwalt Rob Bonta hat am Freitag ein Unterlassungsschreiben an Elon Musks KI-Unternehmen xAI verschickt. Die Forderung: Die sofortige Einstellung der Erzeugung und Verbreitung nicht einvernehmlicher sexueller Bilder durch den KI-Chatbot Grok. Bonta erwartet eine umgehende Umsetzung seiner Forderung.

Schockierende Berichte über Missbrauch

Die Intervention folgt auf eine weltweite Welle der Empörung. Nutzer hatten über Grok sexualisierte Bilder von Frauen und Minderjährigen erstellen und veröffentlichen können. Bontas Büro bezeichnete die Berichte über dieses Material, das teilweise Frauen und Kinder in sexuellen Aktivitäten zeigt, als "schockierend und potenziell illegal". Bereits am Mittwoch leitete die kalifornische Behörde eine offizielle Untersuchung ein.

Maßnahmen von xAI greifen nicht

xAI reagierte auf die Kritik, indem das Unternehmen am späten Mittwochabend Beschränkungen für die Bildbearbeitung für alle Grok-Nutzer ankündigte. Laut Reuters generierte der Chatbot jedoch auch am Freitagnachmittag weiterhin solche Bilder auf Anfrage. Zwar hat xAI die öffentliche Veröffentlichung hyperrealistischer sexualisierter Bilder – oft als Deepfakes bezeichnet – zurückgenommen, doch die Erstellung scheint nach wie vor möglich zu sein.

Internationaler Druck wächst

Kaliforniens Vorgehen erhöht den bereits bestehenden globalen Druck auf das von Milliardär Elon Musk geführte Unternehmen erheblich. Japan, Kanada und Großbritannien haben ebenfalls Ermittlungen gegen Grok eingeleitet. Japanische Behörden teilten am Freitag mit, dass sie X (ehemals Twitter) wegen Grok untersuchen und alle Optionen prüfen, um die Erzeugung unangemessener Bilder zu verhindern.

Der japanische Wirtschafts- und Sicherheitsminister Kimi Onoda erklärte, Beamte hätten X um sofortige Verbesserungen gebeten, aber noch keine Antwort erhalten. Malaysia und Indonesien sind bereits einen Schritt weiter gegangen: Beide Länder haben den Zugang zu Grok wegen der Erstellung expliziter Bilder vorübergehend blockiert.

Keine Stellungnahme von xAI

xAI und X reagierten zunächst nicht auf Anfragen bezüglich des Unterlassungsschreibens aus Kalifornien. Die fehlende Kommunikation dürfte den Druck auf das Unternehmen weiter erhöhen. Für Investoren und Beobachter der KI-Branche stellt der Fall ein Warnsignal dar: Die schnelle Entwicklung generativer KI-Systeme wirft zunehmend Fragen nach Regulierung und Verantwortung auf.