Großbritannien verschärft Regulierung von KI-Chatbots zum Kinderschutz

Die britische Regierung nimmt KI-Chatbots künftig in den Online Safety Act auf und verpflichtet sie zur Bekämpfung illegaler Inhalte. Premierminister Keir Starmer kündigte am Montag neue Maßnahmen an, nachdem Elon Musks Plattform X wegen sexuell expliziter Inhalte ihres Chatbots Grok in die Kritik geraten war. Bei Verstößen drohen den Betreibern empfindliche Geldstrafen oder sogar Sperrungen.

Chatbots wie ChatGPT von OpenAI, Gemini von Google und Copilot von <a class="tvreplink" target="_blank" href="https://de.tradingview.com/symbols/Nasdaq%3AMSFT">Microsoft müssen nun ihre "Pflichten in Bezug auf illegale Inhalte" erfüllen. Die Regierung reagiert damit auf eine Untersuchung der Europäischen Kommission gegen X, die im Januar wegen der Verbreitung sexuell expliziter Bilder von Kindern eingeleitet wurde. Starmer forderte Musk persönlich auf, dem ein Ende zu setzen.

Umfassende Schutzmaßnahmen für Kinder

Die neuen Befugnisse gehen über KI-Chatbots hinaus. Die Regierung plant die Festlegung von Mindestaltersgrenzen für Social-Media-Plattformen und die Einschränkung schädlicher Funktionen wie "Infinite Scrolling". Auch der Zugang von Kindern zu VPNs soll begrenzt werden. Eine weitere Maßnahme verpflichtet Social-Media-Unternehmen, Daten nach dem Tod eines Kindes aufzubewahren, sofern die Online-Aktivitäten mit dem Todesfall in Verbindung stehen könnten.

Alex Brown, Leiter des TMT-Bereichs bei der Anwaltskanzlei Simmons & Simmons, sieht darin einen Paradigmenwechsel in der Regulierung. "Generative KI zeigt die Grenzen des Online Safety Act auf, der sich auf die Regulierung von Diensten statt auf Technologie konzentriert", erklärt Brown. Die Ankündigung verdeutliche, dass die Regierung nun die Gefahren angehen wolle, "die sich aus dem Design und dem Verhalten der Technologien selbst ergeben".

Internationale Entwicklung bei Social-Media-Verboten

Großbritannien reiht sich damit in eine wachsende internationale Bewegung ein. Australien führte im Dezember als erstes Land ein Gesetz ein, das Jugendlichen unter 16 Jahren die Nutzung sozialer Medien untersagt. Apps wie YouTube, Instagram und TikTok mussten daraufhin Methoden zur Altersverifizierung einführen, etwa das Hochladen von Ausweisdokumenten oder Bankdaten.

Spanien wurde Anfang Februar das erste europäische Land mit einem solchen Verbot. Frankreich, Griechenland, Italien, Dänemark und Finnland prüfen ähnliche Vorschläge. Die britische Regierung startete im Januar eine Konsultation über ein Social-Media-Verbot für unter 16-Jährige. Das Oberhaus stimmte bereits dafür, den "Children's Wellbeing and Schools Bill" um ein entsprechendes Verbot zu ergänzen.

Der Gesetzentwurf wird nun vom Unterhaus geprüft. Beide Kammern müssen allen Änderungen zustimmen, bevor diese Gesetzeskraft erlangen. Experten warnen jedoch, dass Regulierungen, die sich auf spezifische Technologien konzentrieren, schnell veralten könnten und Gefahr laufen, wichtige Aspekte zu übersehen.