US-Berufungsgericht stoppt Minnesotas Nudifizierungs-Verbot auf Antrag von xAI

Das in St. Louis ansässige US-Berufungsgericht für den achten Bezirk hat am Freitag Minnesotas landesweit erstes Verbot KI-generierter gefälschter Nacktbilder vorerst ausgesetzt. Damit gab das Gericht einem Antrag von Elon Musks Technologieunternehmen xAI auf Erlass einer einstweiligen Verfügung statt. xAI verfolgt eine Klage, in der das Unternehmen das Gesetz als verfassungswidrig einstuft.

Das Verbot war am 1. August in Kraft getreten. Es untersagt Website-Betreibern, Softwareentwicklern und anderen, Nutzern zu erlauben, realistische Bilder zu erstellen, die intime Körperteile darstellen, die in einem Originalfoto einer identifizierbaren Person nicht gezeigt werden. xAI argumentiert, die Maßnahme schränke die durch die US-Verfassung geschützte Redefreiheit ein.

Bereits im vergangenen Monat hatte ein Richter eines niedrigeren Gerichts Musks Versuch abgelehnt, eine Anordnung zur Einstellung des Gesetzes zu erwirken. Der US-Bezirksrichter Donovan Frank entschied damals, xAI habe nicht dargelegt, dass es irreparable Schäden erleiden würde, während es das Gesetz anfechte. Zudem habe das Unternehmen zu lange gewartet, um eilige Maßnahmen zu bitten.

xAI bestreitet Verzögerung

In seiner Berufung bestritt xAI die Feststellung des Richters, dass es mit der Einreichung der Klage gezögert habe. Das Unternehmen erklärte zudem, dass sein Grok Imagine-Tool über „strenge Schutzmaßnahmen“ verfüge, um die Erstellung von nudifizierten oder sexualisierten Bildern realer Personen zu verhindern. xAI hat nach eigenen Angaben begonnen, Nutzer zu verklagen, die laut Anschuldigungen die technologischen Blockaden von Grok umgehen, um sexuelle Bilder von Personen ohne deren Zustimmung zu erstellen. Auf eine Anfrage nach einer Stellungnahme reagierte xAI zunächst nicht umgehend.

Minnesota will Gesetz verteidigen

Das Büro des Generalstaatsanwalts von Minnesota, Keith Ellison, erklärte am Freitag, man sei enttäuscht von der Entscheidung des Berufungsgerichts. Man werde das neue Landesgesetz verteidigen, während sich xAIs Berufungsverfahren fortsetzt. „Das Nudifizierungsverbot in Minnesota verbietet KI-Technologieprodukten, sexuelle Bilder zu generieren, die Menschen auf die widerlichste Weise verletzen und belästigen“, sagte Ellisons Sprecher John Stiles.

Minnesota hatte das Berufungsgericht aufgefordert, das Gesetz nicht zu blockieren. Der Bundesstaat erklärte, er habe die Maßnahme in diesem Jahr eingeführt, um der Verbreitung dessen entgegenzuwirken, was er als „erschreckende Menge an Material zur sexuellen Ausbeutung von Kindern“ bezeichnete, das von KI-Produkten wie Grok Imagine generiert wird.

Rechtlicher Hintergrund

Der Fall reiht sich in eine wachsende Zahl von Auseinandersetzungen ein, in denen US-Bundesstaaten und KI-Anbieter über die Grenzen der Meinungsfreiheit streiten. Minnesota verfolgt mit dem Gesetz das Ziel, Personen vor nicht einvernehmlichen, KI-generierten Darstellungen zu schützen. xAI pocht dagegen auf verfassungsrechtliche Garantien und verweist auf eigene Schutzmechanismen in seinem Produkt.

Die vorläufige Aussetzung bedeutet nicht das Ende des Verfahrens. Das Gesetz bleibt ausgesetzt, während die Berufung von xAI weiterläuft. Minnesota hat angekündigt, das Landesgesetz in diesem Verfahren zu verteidigen. Für deutsche Anleger ist der Fall vor allem deshalb relevant, weil er zeigt, wie stark regulatorische Risiken die Geschäftsmodelle von KI- und Social-Media-Unternehmen beeinflussen können – ein Thema, das auch die Bewertung von Technologiewerten an den Märkten bewegt.