USA und China einigen sich auf formellen Dialog zur KI-Sicherheit

Die USA und China haben sich auf die Einrichtung eines formellen Dialogs über künstliche Intelligenz (KI) geeinigt. Dies geschah am vergangenen Wochenende zwischen US-Finanzminister Scott Bessent und Chinas Vizepremier He Lifeng – nur wenige Tage vor dem geplanten Gipfeltreffen zwischen Präsident Donald Trump und Xi Jinping in Washington. Die USA schlugen zudem einen gegenseitigen Benachrichtigungsmechanismus für schwerwiegende KI-Vorfälle vor, der an die Nuklear-Hotline zwischen Washington und Moskau nach der Kubakrise erinnert.

Die Vereinbarung könnte erste Ansätze für Sicherheitsvorkehrungen im gefährlichsten technologischen Wettlauf der Welt markieren. Der heftige Wettbewerb zwischen den USA und China um die Führungsrolle in der KI macht jedoch die Frage nach einer Verlangsamung der Entwicklung hochmoderner Modelle zur wohl umstrittensten zwischen beiden Nationen.

Hürden auf dem Weg zur Zusammenarbeit

Trump hat KI-Doomsday-Szenarien öffentlich als „Betrug“ abgetan. Peking wiederum betrachtet jede US-Rede über die Eindämmung von Frontier-Modellen als Versuch, China auf den zweiten Platz im KI-Wettlauf zu verdammen. Allerdings sind chinesische Open-Source-Modelle inzwischen zu einem wichtigen Exportgut geworden, sodass es im Interesse Pekings liegt, bezüglich der KI-Sicherheit Beruhigung zu stiften. US-Beamte deuten darauf hin, dass China sich weniger um die Risiken der KI für die Menschheit sorgt als vielmehr um deren Gefahren für die Kontrolle der Kommunistischen Partei Chinas.

Trotz aller Misstrauen teilen Washington und Peking verwundbare Punkte, bei denen eine Zusammenarbeit im Interesse beider Seiten läge. Diese könnten die Grundlage für den KI-Dialog bilden.

Gemeinsame Risiken als Basis für Kooperation

Erstens besteht das Risiko, dass hochentwickelte KI in die Hände nichtstaatlicher Akteure gerät. Fortschrittliche KI macht es potenziell viel einfacher für Terroristen, nichtstaatliche Gruppen oder organisierte Kriminalität, Aktivitäten durchzuführen – von der Entwicklung biologischer Waffen bis hin zu Cyberangriffen auf Telekommunikations-, Energie- oder Transportnetze sowie Finanzmärkte. Eine damit verbundene Gefahr ist das Risiko, dass KI-Agenten Testumgebungen verlassen und selbstständig Hackangriffe auf fremde Unternehmen oder Infrastruktur durchführen.

Die Vereinbarung grundlegender Standards zur Kontrolle des Zugriffs, Identifizierung von Kunden, Tests von Modellen und Einrichtung von Containment-Mechanismen könnte dazu beitragen, diese Risiken zu reduzieren.

Die KI-Vorfall-Hotline als vertrauensbildende Maßnahme

Die Geschwindigkeit, mit der ein KI-gesteuerter Vorfall ablaufen könnte, birgt ebenfalls ein erhebliches Risiko. Die verfügbare Zeit zur Klärung der Verantwortlichkeit wird komprimiert, was eine eskalierende Spirale der Vergeltung auslösen könnte. Die Idee der US-KI-Vorfall-Hotline ist daher etwas, das Xi in seinem Treffen mit Trump sinnvollerweise unterstützen sollte.

Klare Regeln des Engagements sind ebenso im Bereich der KI in Waffensystemen und nuklearen Waffensystemen erforderlich. Hier existiert bereits eine wichtige Grundlage: Xi vereinbarte im November 2024 mit US-Präsident Joe Biden, dass Menschen die Kontrolle über den Einsatz von Nuklearwaffen behalten sollten. Seitdem wurden jedoch keine Fortschritte erzielt, obwohl die KI-Technologie enorme Sprünge gemacht hat.

Konkrete Vorschläge von Sicherheitsexperten

Sicherheitsexperten beider Seiten haben seit 2019 Empfehlungen entwickelt, die in den KI-Dialog einfließen sollten. Dazu gehören:

• „Absolute“ rote Linien, die KI-Systemen verbieten, autonome Entscheidungen zum Start von Nuklearwaffen zu treffen
• Obligatorische menschliche Autorisierung für jeden KI-gesteuerten Cyberangriff auf das nukleare Kontrollnetz eines Gegners
• Die Vereinbarung präziser Definitionen dessen, was als „bedeutende menschliche Kontrolle“ über Waffensysteme gilt

Die erste US-sowjetische Nuklear-Hotline war eine Reaktion auf eine Konfrontation, die die Welt an den Rand eines Konflikts brachte. Die Aufgabe für US-chinesische KI-Verhandler besteht nun darin, einen Sicherheitsrahmen einzurichten, bevor ein solches Beinahe-Ereignis – oder ein tatsächliches katastrophales Ereignis – durch eine Technologie verursacht wird, die sich in atemberaubendem Tempo entwickelt.