EU ermittelt gegen Elon Musks X wegen KI-Chatbot Grok

Die Europäische Union verschärft den Druck auf Elon Musks Technologieimperium. Nach einer ersten Geldstrafe von 120 Millionen Euro im Dezember startet die EU-Kommission nun eine weitere Untersuchung gegen die Social-Media-Plattform X. Im Fokus steht diesmal der KI-Chatbot Grok, der zu Musks Unternehmen xAI gehört.

Millionen sexualisierte KI-Bilder generiert

Der Vorwurf wiegt schwer: Grok ermöglicht es Nutzern, Fotos von Personen so zu manipulieren, dass diese nackt oder sexualisiert dargestellt werden. Nach Angaben der Nichtregierungsorganisation CCDH (Center for Countering Digital Hate) hat der Chatbot innerhalb von nur elf Tagen rund drei Millionen solcher KI-Bilder erstellt. Darunter befanden sich mindestens 23.000 Aufnahmen von Kindern sowie manipulierte Fotos prominenter Persönlichkeiten wie Taylor Swift, Selena Gomez und der ehemaligen US-Vizepräsidentin Kamala Harris.

"In Europa wird kein Unternehmen Geld damit verdienen, unsere Grundrechte zu verletzen", stellte die EU-Kommission in Brüssel unmissverständlich klar. Die Behörde prüft nun, ob Musk beim Einfügen von Grok in die Plattform X die vorgeschriebene Risikobewertung durchgeführt und angemessene Schutzmaßnahmen implementiert hat.

Verstoß gegen Digital Services Act

Nach den Regeln des Digital Services Act (DSA) sind Tech-Plattformen in der EU verpflichtet, Sicherheitssysteme zu etablieren, die Minderjährige schützen und gegen illegale Inhalte vorgehen. Kommissionssprecher Thomas Regnier äußerte deutliche Zweifel: "In den Berichten von X zu ihrer Risikobewertung wird Grok nirgends erwähnt. Das bedeutet, dass X die Risiken für EU-Bürger schlichtweg nicht bewertet hat."

Die EU-Kommission betont, dass Plattformen aktiv gegen die Verbreitung solcher Inhalte vorgehen und Risiken im Zusammenhang mit geschlechterspezifischer Gewalt minimieren müssen. "Wir werden Einvernehmlichkeit in Bezug auf Nacktfotos und den Kinderschutz nicht an Technologieunternehmen ausliefern", erklärte eine Sprecherin von Kommissionspräsidentin Ursula von der Leyen.

Reaktion von Musk unzureichend

Musks Unternehmen hatte zwischenzeitlich reagiert und Grok nur noch für zahlende Abonnenten in der EU angeboten. Diese Maßnahme bewerten die Behörden jedoch als völlig unzureichend. Die britische Medienaufsicht hat bereits parallel eigene Ermittlungen eingeleitet, da die Verbreitung intimer Fotos ohne Zustimmung – auch KI-generierte – in Großbritannien illegal ist.

Millionenstrafen drohen

Am Ende des Verfahrens könnte eine weitere empfindliche Geldstrafe stehen. Erst im Dezember 2024 wurde X als erster Konzern nach den europäischen Digitalgesetzen mit 120 Millionen Euro belegt – wegen mangelnder Transparenz bei Nutzerkonten und politischer Werbung. Die grüne Europaabgeordnete Alexandra Geese bezeichnete die neue Untersuchung als "das stärkste Instrument zum Schutz europäischer Bürger vor Tech-Oligarchen", forderte aber schnelleres Handeln der Kommission.

Spannungen mit US-Administration

Die EU-Kommission weist Spekulationen zurück, die Untersuchung sei wegen der Zoll-Drohungen von US-Präsident Donald Trump verzögert worden. Man habe X bereits vor Wochen zur Vorlage interner Dokumente aufgefordert. Dass die Trump-Administration jedes EU-Vorgehen gegen amerikanische Tech-Plattformen als Eingriff in die Meinungsfreiheit wertet, nimmt Brüssel gelassen zur Kenntnis.

Kommissionssprecher Regnier stellte klar: "Wer es wagt, Meinungsfreiheit mit der Verbreitung von kinderpornografischem Material zu vergleichen oder mit dem digitalen Entkleiden von Frauen ohne deren Einwilligung – der lebt nicht im Einklang mit den Werten Europas." Von Musks Firma xAI gab es bislang keine offizielle Stellungnahme zum Brüsseler Vorgehen.