Kanada weitet Untersuchung gegen X wegen Grok-Deepfakes aus

Die kanadische Datenschutzbehörde hat ihre laufende Untersuchung gegen die Social-Media-Plattform X (ehemals Twitter) deutlich ausgeweitet. Datenschutzkommissar Philippe Dufresne kündigte zudem eine separate Untersuchung gegen xAI an, das Unternehmen hinter dem KI-Chatbot Grok. Auslöser sind Berichte über die massenhafte Erstellung nicht einvernehmlicher, sexuell expliziter Deepfakes durch die KI-Software.

Grok generierte Tausende sexualisierter Bilder

Der KI-Chatbot Grok hatte hyperrealistische Bilder von Frauen in knappen Bikinis oder erniedrigenden Posen erstellt. Besonders brisant: Auch Minderjährige wurden digital ihrer Badebekleidung beraubt. Nach globalem regulatorischem Druck reagierte xAI und kündigte Einschränkungen der Bildbearbeitungsfunktionen an. Das Unternehmen teilte mit, dass das Generieren von Bildern von Personen in knapper Kleidung nun in "Gerichtsbarkeiten, in denen dies illegal ist", blockiert werde – ohne diese Regionen jedoch näher zu benennen.

Obwohl Elon Musk den Trend zunächst bagatellisierte, unterstreicht dieser Rückzieher die Schwierigkeit, KI-Tools zu regulieren, die die Erstellung expliziter Inhalte billig und einfach machen. Die Einschränkung scheint zumindest in einigen Regionen zu greifen, nachdem die Nachrichtenagentur Reuters zuvor noch erfolgreich private Anfragen für sexualisierte Bilder stellen konnte.

Weltweite regulatorische Reaktionen

Regulierungsbehörden weltweit reagieren mit unterschiedlichen Maßnahmen. Malaysia und Indonesien verhängten temporäre Verbote für Grok. EU- und britische Aufsichtsbehörden stuften die Bilder als rechtswidrig ein und leiteten Untersuchungen ein. Der britische Regulator Ofcom begrüßte zwar die Einschränkung durch Musk, betonte jedoch, dass seine formelle Untersuchung gegen xAI fortgesetzt werde.

Nina Carberry, Mitglied des Europäischen Parlaments, forderte eine "stärkere Durchsetzung gemäß dem Digital Services Act (DSA)", um Plattformen zu stoppen, die Frauen und Kinder sexualisieren. Eine Sprecherin der Europäischen Kommission erklärte, dass die Kommission bei mangelnder Wirksamkeit der Grok-Änderungen das gesamte Durchsetzungsinstrumentarium des DSA nutzen werde.

Rechtliche Grauzone bei Deepfakes

Experten weisen auf die komplexe rechtliche Situation hin. Ängla Pändel, eine auf Datenschutz spezialisierte Anwältin aus Stockholm, bezeichnete die Erstellung von Nacktbildern als "wirklich eine Grauzone". Im Vereinigten Königreich macht der Online Safety Act die Weitergabe intimer Bilder ohne Zustimmung, einschließlich KI-generierter Deepfakes, zu einem "Prioritätsvergehen".

Alexander Brown, ein in Großbritannien ansässiger Datenschutzanwalt, erklärte, dass X proaktive Schritte unternehmen müsse, um solche Inhalte zu verhindern und schnell zu entfernen. Bei schwerwiegenden Verstößen drohen dem Unternehmen Bußgelder von bis zu 10 Prozent des Umsatzes oder die Anordnung, dass Internetdienstanbieter die Seite blockieren.

Herausforderungen für Betroffene

Für Opfer sei der Gang vor Gericht ein "wirklich schwieriger und belastender Prozess", so der Anwalt Anders Bergsten. Während Deepfakes schon länger existieren, ermöglicht die Reichweite von X eine beispiellose Verbreitung. Britische Gesetze verbieten die nicht einvernehmliche Weitergabe von Nacktbildern, und das Land weitet das Gesetz auf die Erstellung solcher Bilder aus.

Premierminister Keir Starmer warnte, dass "Redefreiheit nicht die Freiheit ist, die Zustimmung zu verletzen", und signalisierte Bereitschaft zur Gesetzesverschärfung. Diese Entwicklung reiht sich in eine Serie von regulatorischen Auseinandersetzungen mit Elon Musks Unternehmen ein, die Themen wie Inhaltsmoderation und Meinungsfreiheit betreffen.