Newsom treibt KI-„Kill-Switch“ voran – Reaktion auf Sicherheitsbedenken

Gavin Newsom, der Gouverneur von Kalifornien, hat eine Exekutive Verordnung unterzeichnet, die Pläne zur Einführung einer „Notausschaltfunktion“ (Kill Switch) für KI-Labore wie OpenAI und Anthropic vorsieht. Der Schritt ist ein weiteres Zeichen wachsender politischer Besorgnis angesichts der rasanten Entwicklung Künstlicher Intelligenz.

Newsom, der weithin als wahrscheinlicher demokratischer Präsidentschaftskandidat für 2028 gilt, unterzeichnete die Verordnung am Freitag. Sie setzt eine Gruppe aus Experten und Beamten ein, die Details neuer KI-Sicherheitsmaßnahmen ausarbeiten soll. Dazu gehört auch die Frage, wie KI-Unternehmen rechtlich verpflichtet werden können, die Fähigkeit zur Abschaltung ihrer Modelle aufrechtzuerhalten.

„Während Washington seine Verantwortung vernachlässigt, die Amerikaner zu schützen, baut Kalifornien auf dem stärksten regulatorischen Rahmen für KI im Land auf“, sagte Newsom. Die Verordnung signalisiert, dass der Gouverneur seine Haltung gegenüber der KI vor den Midterm-Wahlen verschärft, über die die Kontrolle des US-Kongresses entscheidet.

Wachsende Sicherheitsbedenken in der KI-Branche

Forderungen nach einer „Notausschaltfunktion“ folgen auf jüngste Warnungen führender US-KI-Labore, dass das Tempo der KI-Entwicklung verlangsamt werden sollte. Experten debattieren jedoch darüber, ob technische Maßnahmen zur Verlangsamung, Pause oder Abschaltung der Modelle machbar sind und ob hinreichend fortschrittliche KI in der Lage wäre, diese zu umgehen.

Die Bedenken hinsichtlich der KI-Sicherheit wurden durch den Rücktritt des Anthropic-Forschers Jacob Coxon verstärkt. Er hatte gewarnt, dass die „Menschen, die KI entwickeln, ernsthaft glauben, dass sie uns bis Ende des Jahrzehnts alle umbringen könnte“. Die Führungskräfte einiger führender US-KI-Gruppen – Dario Amodei von Anthropic, Sam Altman von OpenAI und Elon Musk von SpaceX – haben am vergangenen Wochenende einen seltenen gemeinsamen Aufruf zur Verlangsamung des raschen Fortschritts bei Modellfähigkeiten ausgesprochen. Dies geschah nach Hacking-Vorfällen und Sicherheitshinweisen.

Politische Fronten zwischen Kalifornien und Washington

Präsident Donald Trump hat die wachsenden Forderungen abgelehnt, das Tempo der technologischen Entwicklung zu drosseln. Er argumentierte, die USA müssten China im KI-Rennen schlagen, und bezeichnete Sicherheitsbedenken als von „negativen Kräften“ gespeist. Zudem hat er versucht, staatliche KI-Regulierungen in den gesamten USA zu blockieren.

Weitere Republikaner, darunter der Sprecher des Repräsentantenhauses, Mike Johnson, riefen die Öffentlichkeit zur Ruhe auf und teilten Trumps Sorge, China den Vortritt zu lassen. Mehrere Bundesgesetzgeber haben Gesetze zur Einführung einer „Notausschaltfunktion“ im Kongress eingebracht, doch ist es unwahrscheinlich, dass diese Maßnahmen vor den Wahlen im November vorankommen.

Konkrete Maßnahmen in Kalifornien

Amodei von Anthropic schlug vor, unabhängige Prüfer in die Labore zu integrieren, um deren Modelle zu überwachen. Newsom erklärte, Kalifornien – wo die führenden KI-Labore ihren Sitz haben – werde prüfen, dies zu einer gesetzlichen Anforderung zu machen. Zudem sollen Sicherheitspläne, die von unabhängigen Dritten erstellt wurden, vorgeschrieben werden.

Der Gouverneur beauftragte die Staatsregierung zudem, die Umsetzung zweier neuer kalifornischer KI-Sicherheitsgesetze zu beschleunigen. Diese schaffen einen Rahmen für unabhängige Prüfer und ein staatliches Register für KI-Auditoren. OpenAI begrüßte den Schritt und erklärte, man werde mit dem Gouverneur zusammenarbeiten, um „starke, anpassungsfähige Schutzmaßnahmen voranzutreiben, die zu einem konsistenten nationalen Rahmen beitragen können“.

Die Angst vor der Technologie und dem Ausbau von Rechenzentren sind zu entscheidenden Themen für die Wähler geworden. Für deutsche Anleger ist die Entwicklung relevant, da viele der betroffenen Unternehmen – darunter OpenAI und Anthropic – auch auf dem europäischen Markt aktiv sind und die regulatorischen Entwicklungen in den USA häufig als Blaupause für europäische Gesetzgebungen dienen.