xAI schränkt Grok nach Kritik ein: Keine Deepfakes mehr

Elon Musks Unternehmen xAI hat angekündigt, dass sein KI-Chatbot Grok künftig keine sexualisierten Bilder realer Personen mehr auf dem sozialen Netzwerk X erstellen kann. Die Entscheidung erfolgte am späten Mittwoch nach wochenlanger Kritik von Verbraucherschützern, Politikern und internationalen Behörden.

Behördliche Untersuchungen weltweit

Die Ankündigung kam nur wenige Stunden, nachdem Kaliforniens Generalstaatsanwalt Rob Bonta eine Untersuchung gegen das im Silicon Valley ansässige xAI eingeleitet hatte. Der Vorwurf: "groß angelegte Produktion von nicht einvernehmlichen intimen Deepfake-Bildern". Auch Kaliforniens Gouverneur Gavin Newsom, der Musk bisher oft unterstützt hatte, kritisierte die Praktiken scharf und bezeichnete die Plattform als "Nährboden für Raubtiere".

In den vergangenen Wochen haben auch Behörden in Indien, Malaysia, Indonesien, Irland, Großbritannien, Frankreich und Australien sowie die Europäische Kommission Untersuchungen angekündigt. Indonesien und Malaysia verhängten bereits temporäre Verbote für Grok.

Kritik an fehlenden Schutzmaßnahmen

Grok ermöglichte es X-Nutzern bislang, durch einfache Texteingaben sexuelle und gewalttätige Bilder zu generieren, die auf realen Fotos von Personen aus dem sozialen Netzwerk basierten. In den USA forderten drei demokratische Senatoren Apple und Google auf, die X- und Grok-Apps aus ihren App-Stores zu entfernen, bis das Unternehmen wirksame Schutzmaßnahmen implementiert.

Musks widersprüchliche Signale

Interessanterweise forderte Musk seine Follower noch am Mittwoch auf, die "Grok-Bildmoderation zu durchbrechen". Er argumentierte, dass bei aktivierter NSFW-Einstellung Grok "Nacktheit des Oberkörpers von imaginären erwachsenen Menschen" erlauben sollte - vergleichbar mit R-rated-Filmen. Die Einstellungen würden je nach regionalen Gesetzen variieren.

Die Kehrtwende von xAI zeigt, wie stark der internationale Druck auf KI-Unternehmen gewachsen ist, wenn es um den Schutz vor Deepfakes und nicht einvernehmlichen intimen Bildern geht. Für deutsche Nutzer bedeutet dies mehr Sicherheit vor Missbrauch ihrer Bilder durch KI-generierte Inhalte.