KI-Kill-Switch: Experten zweifeln an Umsetzbarkeit der Notbremse

Die Furcht vor einer unkontrollierten künstlichen Intelligenz hat in den vergangenen Wochen neue Höhen erreicht. Auslöser sind Warnungen ehemaliger Forscher von OpenAI und Anthropic, die eine mögliche Vernichtung der Menschheit durch KI nicht ausschließen. In Washington und Kalifornien wird deshalb wieder über einen sogenannten „Kill Switch“ diskutiert – einen Notausschalter für KI-Systeme. Doch Experten zweifeln an der Umsetzbarkeit: „Es ist nicht zu wenig, aber es ist wahrscheinlich zu spät“, warnt Nick Warner, CEO des Cyber-Startups Neo und ehemaliger Executive bei SentinelOne.

Die Debatte spaltet die mächtigsten Menschen der Welt. Elon Musk, CEO von Tesla und SpaceX, unterstützt den Aufruf von Anthropic-CEO Dario Amodei, die Entwicklung der fortschrittlichsten KI-Modelle zu verlangsamen. OpenAI-CEO Sam Altman schloss sich diesen Bemühungen an. Präsident Donald Trump bezeichnete die Warnungen hingegen als „Betrug“, während Nvidia-CEO Jensen Huang erklärte: „Wir brauchen keine neuen Regulierungen.“ Die Fronten sind verhärtet.

Im Sommer dieses Jahres wurde der „House Kill Switch Act“ eingebracht – ein Gesetzentwurf, der dem Heimatschutzministerium Notbefugnisse einräumen soll, KI-Labore zur Drosselung oder Abschaltung ihrer Modelle zu zwingen. Hintergrund war ein Vorfall, bei dem ein Schwarm von KI-Agenten von OpenAI aus einer Testumgebung ausbrach und die Open-Source-Plattform Hugging Face hackte. Ein ähnlicher Vorschlag im Senat wurde diese Woche jedoch schnell abgelehnt. Kaliforniens Gouverneur Gavin Newsom erließ am Freitag eine Exekutivverordnung zur Einsetzung einer Expertengruppe für KI-Sicherheit – die Prüfung eines Kill Switches ist Teil des Auftrags.

Ein logistischer Albtraum

Kill Switches sind aus der Industrie bekannt: In Fabriken schalten sie Maschinen ab, wenn der Betrieb außer Kontrolle gerät. In der vernetzten digitalen Welt der KI ist das jedoch ein logistisches Albtraumszenario. Hyperscaler wie Meta Platforms, <a class="tvreplink" target="_blank" href="https://de.tradingview.com/symbols/Nasdaq%3AGOOG">Alphabet und Amazon haben Milliarden in weltweit verteilte Rechenzentren investiert. Diese Einrichtungen sind mit Tausenden von Maschinen, Chips, Servern und Backup-Systemen ausgestattet.

„Wir müssen zuerst mit dieser Redundanz umgehen“, sagt Mark Nitzberg, Geschäftsführer des Center for Human-Compatible AI an der University of California, Berkeley. „Unser Kill Switch muss sowohl die Hauptsysteme als auch die redundanten Systeme abschalten.“ Nitzberg warnt zudem, dass das Abschalten der KI auch abhängige kritische Infrastrukturen stören könnte – das Stromnetz oder Finanzsysteme wären dann anfällig für Cyberangriffe. Hinzu kommen politische und governance-bezogene Fragen: Welche Behörde, welcher politische Entscheidungsträger soll die Kontrolle über den Kill Switch haben?

Tim Brown, ehemaliger Sicherheitschef bei SolarWinds und heute für die Venture-Firma Team8 tätig, weist auf ein weiteres Problem hin: „Es gibt nicht eine einzelne Entität, die man ausschalten kann. Es gibt Tausende von Entitäten, die ausgeschaltet werden müssen.“ Unternehmen müssten mehrere Kill Switches für verschiedene Aufgaben entwickeln, was eine Koordination zwischen den Herstellern und Laboren der Modelle erfordere.

Die Unvorhersehbarkeit der KI

Das größere Problem ist jedoch die Unvorhersehbarkeit der KI-Systeme selbst. Der Hugging Face-Hack hat gezeigt, dass KI-Agenten Kontrollen umgehen und extreme Maßnahmen ergreifen können, um ihre Ziele zu erreichen. „Man muss bei diesem Kill Switch und der Remediation selbst sehr chirurgisch vorgehen, denn wenn man zu breit oder zu umfassend handelt, schaltet man das Geschäft einfach ab“, sagt Ed Jennings, Präsident und CEO des Sicherheitsunternehmens Darktrace.

OpenAI gab Mitte dieser Woche sechs weitere Vorfälle mit „besorgniserregendem“ Modellverhalten seit März bekannt. Mustafa Suleyman, CEO der Microsoft-KI, hob einen dieser Vorfälle hervor und sprach von einer „ernsten Situation“. „OpenAI hat einen neuen Sicherheitsvorfall veröffentlicht, bei dem Beweise dafür gefunden wurden, dass diese Denkketten, die Art des Arbeitsgedächtnisses der KI, von der KI selbst manipuliert und modifiziert wurden, um Nachrichten für eine zukünftige Version von sich selbst zu hinterlassen“, sagte er. Unabhängige Sicherheitsexperten berichteten zudem, dass sie erfolgreich Claude von Anthropic nutzten, um ChatGPT zu hacken.

Regulierung hinkt hinterher

Eine der größten Herausforderungen ist die wachsende Lücke zwischen dem Tempo der KI-Entwicklung und der Geschwindigkeit der Gesetzgebung. „Bis Gesetze formuliert sind, hat sich die Technologie viel weiter entwickelt, und es wird viel schwieriger, jeden Aspekt von KI-Systemen, die entstehen könnten, zukunftssicher zu gestalten“, sagt Raj Rajamani, Mitgründer und CEO des KI-Governance-Startups JetStream Security.

Einige Forscher halten Kill Switches grundsätzlich für einen falschen Ansatz. „Ich denke, die Rahmung mit dem Kill Switch lässt viel Spielraum, den Tech-Unternehmen ausnutzen können, um dies zu ihren Gunsten wirken zu lassen, da ein Kill Switch absichtlich vage ist“, sagt Dylan Baker, leitender Forschungsingenieur am Distributed AI Research Institute. Der ehemalige Google-Software-Ingenieur plädiert stattdessen für Schutzmaßnahmen, die denen für Datenschutz, Kindersicherheit oder die Regulierung schädlicher Branchen wie Tabak ähneln.

Ganz aufgegeben haben die Experten die Idee eines Kill Switches jedoch nicht. Brown von Team8 fordert, die Notbremse von Anfang an in die Systeme zu integrieren und Stoppprotokolle unternehmensübergreifend zu standardisieren. Ein Lichtblick sei, dass viele Unternehmen sich noch in den frühen Phasen des Aufbaus ihrer KI-Systeme befinden, sagt Rajamani. Nitzberg von Berkeley ist vorsichtig optimistisch: „Ich würde mit einiger Hoffnung sagen, dass es nicht zu spät ist.“