EU ermittelt gegen X wegen Grok-KI: Deepfake-Skandal weitet sich aus

Die Europäische Union verschärft den Druck auf Elon Musks Social-Media-Plattform X. Die EU-Kommission hat am Montag eine formelle Untersuchung eingeleitet, ob X ausreichende Maßnahmen ergriffen hat, um Nutzer vor den Risiken des KI-Chatbots Grok zu schützen. Im Zentrum steht der Vorwurf, dass Grok sexualisierte Deepfake-Bilder von Frauen und Kindern erstellt hat.

Globale Empörung über KI-Missbrauch

Die Ermittlungen erfolgen vor dem Hintergrund internationaler Kritik. Bereits zwei Wochen zuvor hatte die britische Medienaufsicht Ofcom eigene Untersuchungen eingeleitet. Indonesien, die Philippinen und Malaysia blockierten den Chatbot zeitweise komplett. "Nicht einvernehmliche sexuelle Deepfakes von Frauen und Kindern sind eine gewalttätige, inakzeptable Form der Erniedrigung", erklärte EU-Technologiechefin Henna Virkkunen.

Die EU-Kommission hatte die auf X geteilten KI-generierten Bilder von entkleideten Frauen und Kindern bereits Anfang Januar als "rechtswidrig und entsetzlich" bezeichnet. Nun prüfen die Regulierungsbehörden, ob X seine Pflichten nach dem Digital Services Act (DSA) erfüllt hat.

Nachbesserungen reichen nicht aus

xAI, der Entwickler von Grok, reagierte auf die Kritik mit Einschränkungen. Das Unternehmen schränkte die Bildbearbeitung ein und verbot in bestimmten Ländern die Generierung von Bildern mit freizügig gekleideten Personen. Nach diesen Anpassungen stellten die Philippinen und Malaysia den Zugang zu Grok wieder her.

Doch EU-Beamte sehen diese Maßnahmen als unzureichend an. Ein hochrangiger Vertreter der Kommission erklärte, die Änderungen lösten "nicht alle Probleme und systemischen Risiken". Die Behörde geht davon aus, dass X keine angemessene Risikobewertung durchführte, als Grok in Europa eingeführt wurde.

Hohe Geldstrafen drohen

Bei Verstößen gegen den DSA drohen X empfindliche Sanktionen: Geldbußen von bis zu 6 Prozent des globalen Jahresumsatzes sind möglich. Das Unternehmen wurde bereits im Dezember mit 150 Millionen Euro wegen Verletzung von Transparenzpflichten bestraft.

Die EU weitete zudem eine bereits im Dezember 2023 eröffnete Untersuchung aus. Dabei geht es um die Frage, ob X alle systemischen Risiken seiner Empfehlungssysteme angemessen bewertet hat – einschließlich der kürzlich angekündigten Umstellung auf ein Grok-basiertes System.

Politische Brisanz

Die Ermittlungen bergen politischen Sprengstoff. Ein hartes Vorgehen der EU gegen US-Technologiekonzerne hat in der Vergangenheit bereits Kritik aus Washington ausgelöst. Unter Präsident Donald Trump könnten solche Maßnahmen sogar zu Drohungen mit US-Zöllen führen.

"Mit dieser Untersuchung werden wir feststellen, ob X seinen rechtlichen Verpflichtungen nachgekommen ist, oder ob es die Rechte europäischer Bürger als Kollateralschaden seines Dienstes behandelt hat", betonte Virkkunen.

Forderungen nach schärferen Regeln

Die EU-Abgeordnete Regina Doherty sieht in dem Fall grundsätzliche Schwachstellen in der KI-Regulierung. "Das KI-Gesetz muss ein lebendiges Gesetz bleiben", forderte sie. "Wenn Lücken in der Durchsetzung oder Aufsicht erkennbar werden, liegt es in unserer Verantwortung, diese zu beheben."

Falls X keine signifikanten Anpassungen vornimmt, könnten die Regulierungsbehörden einstweilige Maßnahmen verhängen. Die Untersuchung dürfte Monate dauern und könnte weitreichende Konsequenzen für den Einsatz von KI-Technologien in Europa haben.