Malaysia und Indonesien blockieren Musks KI-Chatbot Grok

Malaysia und Indonesien haben den Zugang zu Elon Musks KI-Chatbot Grok vorübergehend blockiert. Die Maßnahme erfolgte, nachdem bekannt wurde, dass das Tool zur Erstellung nicht einvernehmlicher, sexuell expliziter Inhalte missbraucht wurde. Betroffen sind auch Darstellungen zum sexuellen Missbrauch von Kindern.

xAI, das Unternehmen hinter Grok, reagierte am Donnerstag und kündigte Einschränkungen an. Die Bildgenerierungs- und Bearbeitungsfunktionen sollen künftig nur noch zahlenden Abonnenten zur Verfügung stehen. Zuvor hatten Nutzer auf X (ehemals Twitter) sexualisierte Inhalte anderer Personen erstellt, oft ohne deren Zustimmung.

Indonesien und Malaysia ergreifen Maßnahmen

Indonesien sperrte den Bot bereits am Samstag und bestellte Vertreter von X ein. Malaysia folgte einen Tag später. Die malaysische Kommunikations- und Multimedia-Kommission (MCMC) erklärte, Grok sei "wiederholt missbraucht" worden, um obszöne und nicht einvernehmlich manipulierte Bilder zu generieren.

Die MCMC hatte X und xAI aufgefordert, wirksame Schutzmaßnahmen zu implementieren. Die Antworten der Unternehmen basierten jedoch "hauptsächlich auf nutzerinitiierten Meldemechanismen" und gingen nicht auf die systembedingten Risiken ein. Dies sei "unzureichend, um Schaden zu verhindern", so die Kommission.

Automatisierte Antwort von xAI

Auf eine Anfrage von Reuters reagierte xAI mit einer automatisierten Nachricht: "Legacy Media Lies." Auch X gab keine Stellungnahme ab. Die Reaktionen konnten die Bedenken der Regulierungsbehörden nicht zerstreuen.

Die Probleme entstanden durch die kürzlich aktualisierten "Grok Imagine"-Funktionen, die eine einfache Generierung von Bildern aus Textaufforderungen ermöglichen. Musk kündigte auf X an, dass Nutzer, die illegale Inhalte erstellen, mit Konsequenzen rechnen müssen.

Strenge Gesetze in Südostasien

Sowohl Indonesien als auch Malaysia haben strenge Anti-Pornografie-Gesetze. Indonesiens Ministerin für Kommunikation, Meutya Hafid, bezeichnete nicht einvernehmliche sexuelle Deepfakes als "schwerwiegende Verletzung der Menschenrechte". Sie stufte den Missbrauch von KI zur Herstellung gefälschter Pornografie als "digital basierte Gewalt" ein.

Malaysia, ein mehrheitlich muslimisches Land, hat strenge Gesetze für Online-Inhalte. Das Land erwägt zudem, Nutzern unter 16 Jahren den Zugang zu sozialen Medien zu untersagen.

Internationale Untersuchungen laufen

Über Südostasien hinaus haben Behörden in der Europäischen Union, Großbritannien, Brasilien und Indien Untersuchungen zur Rolle von Grok eingeleitet. In den USA empfahlen demokratische Abgeordnete, die KI-Tools aus App-Stores zu entfernen, bis Musk wesentliche Änderungen vornimmt.

Das US-Justizministerium erklärte letzte Woche, es nehme KI-generiertes Material zum sexuellen Missbrauch von Kindern "extrem ernst". Man werde "jeden Hersteller oder Besitzer von CSAM aggressiv strafrechtlich verfolgen".