Malaysia geht gegen Elon Musks KI-Chatbot Grok vor
Malaysias Behörden leiten rechtliche Schritte gegen X und xAI ein. Der KI-Chatbot Grok steht wegen der Erstellung sexualisierter Inhalte in der Kritik. Mehrere Länder reagieren mit Blockaden und Untersuchungen.
Die malaysische Kommunikations- und Multimediakommission hat rechtliche Schritte gegen Elon Musks Unternehmen X und xAI eingeleitet. Grund ist der generative KI-Chatbot Grok, der es Nutzern ermöglicht, sexualisierte und manipulierte Bilder zu erstellen und zu verbreiten. Die Behörde wirft den Unternehmen vor, gegen malaysisches Recht zu verstoßen und ihre eigenen Sicherheitszusagen zu untergraben.
Weltweite Empörung und Maßnahmen
Neben Malaysia reagieren auch andere Länder auf die Kontroverse um Grok. Indonesien blockierte den Chatbot ebenfalls über das Wochenende. Die britische Medienaufsichtsbehörde leitete eine offizielle Untersuchung gegen die Plattform X ein. Französische Behörden erstatteten Anzeige bei Staatsanwälten und Regulierungsbehörden.
Die malaysische Kommission stellte fest, dass Grok zur Generierung und Verbreitung schädlicher Inhalte missbraucht wird. Dazu zählen obszöne, sexuell explizite und nicht einvernehmlich manipulierte Bilder. Besonders besorgniserregend: Die Inhalte betreffen offenbar auch Frauen und Minderjährige.
Keine Reaktion von Musk-Unternehmen
Die malaysischen Behörden hatten X und xAI bereits diesen Monat zur Entfernung der problematischen Inhalte aufgefordert. Nach Angaben der Kommission blieben beide Unternehmen jedoch untätig. Auf eine Anfrage von Reuters reagierte xAI lediglich mit der automatisierten Nachricht "Legacy Media Lies". Von X kam zunächst keine Stellungnahme.
Strenge Gesetze in Malaysia
Malaysia verfügt über besonders strenge Regelungen für Online-Inhalte. Das mehrheitlich muslimische Land verbietet obszöne und pornografische Materialien. Als schädlich eingestuft werden zudem Online-Glücksspiel, Betrug, Kinderpornografie, Cybermobbing sowie Inhalte zu Rasse, Religion und dem Königshaus.
Die aktuellen Vorfälle werfen grundsätzliche Fragen zur Regulierung generativer KI-Systeme auf. Während Technologieunternehmen auf Innovation setzen, fordern Regulierungsbehörden weltweit stärkere Kontrollen zum Schutz vor Missbrauch.