KI-Notausschalter könnte für Unternehmen verpflichtend werden

Ein künstlicher „Notausschalter“ für Künstliche Intelligenz (KI), der von einer dritten Partei überprüft werden kann, könnte für Unternehmen zur Pflicht werden. Dies hat ein Mitbegründer eines der weltweit größten KI-Unternehmen gegenüber der BBC erklärt.

Jack Clark, einer von sieben Gründern von Anthropic, sagte, dass es einen Weg geben müsse, KI-Software vollständig abzuschalten, wenn sie zu gefährlich werde – etwas, um das die Gesellschaft „letztendlich Regeln erlassen könnte“. Clark erklärte, „die meisten Labors haben unterschiedliche Möglichkeiten, den Stecker zu ziehen“, einschließlich Anthropic, aber Gesetzgeber könnten es notwendig finden, eine solche Vorkehrung vorzuschreiben.

Die rasante Entwicklung der KI und die Befürchtungen hinsichtlich der Risiken, die sie für die Menschheit birgt, sind durch eine Reihe von Warnungen von Führungskräften und Mitarbeitern in KI-Unternehmen stark in den Fokus gerückt. Einige haben öffentlich geäußert, dass die Technologie, wenn sie nicht kontrolliert wird, die Möglichkeit besteht, alle Menschen zu töten.

Debatte um KI-Sicherheit und Ausstiegsrisiken

Der Chief Executive Officer von Anthropic, Dario Amodei, forderte am Wochenende, das Tempo der KI-Entwicklung zu verlangsamen und stärker zu überwachen, wie dies das Unternehmen bereits zuvor getan hat, obwohl einige die Beweggründe dahinter hinterfragt haben. Amodei fügte hinzu, dass jegliche Maßnahmen zur Eindämmung der KI-Entwicklung „ohne Aufopferung des kommerziellen Vorteils“ erfolgen sollten.

Clark sagte der BBC, dass Details zu Anforderungen an einen „Notausschalter“ und dessen Verifizierung Teil der „größeren politischen Debatte“ sein sollten, die rund um die KI stattfindet. „Soll man Unternehmen zwingen, definitiv einen Notausschalter zu haben? Ist dieser Notausschalter von einer dritten Partei überprüfbar?“, fragte er. „Ich denke, das ist die Art von Sache, von der die Gesellschaft wissen möchte und um die sie möglicherweise später Regeln erlassen wird.“

Anthropic, das 2021 von einer Gruppe ehemaliger Mitarbeiter des Rivalen OpenAI gegründet wurde, steht derzeit im Mittelpunkt einer Debatte über die KI-Sicherheit. Letzte Woche ging ein Beitrag eines KI-Forschers viral, der Anthropic wegen der Sorge verlassen hatte, dass die KI die Menschheit auslöschen könnte.

Als Reaktion darauf sagte der Anthropic-Wissenschaftler Evan Hubinger, er persönlich halte die Möglichkeit eines menschlichen Aussterbens durch KI für 10 Prozent innerhalb des nächsten Jahrzehnts. Der Informatiker und Nobelpreisträger Geoffrey Hinton, bekannt als der „Vater der KI“, sagte der BBC am Freitag, dass eine 10-prozentige Chance, dass KI alle Menschen tötet, „nicht unvernünftig“ sei.

Kritische Stimmen und politische Kontroversen

Einige in der KI-Branche haben jedoch suggeriert, dass die Befürchtungen bezüglich der Zerstörung der Menschheit übertrieben sind oder absichtlich erzeugt wurden, um Hype zu generieren. Clement Delangue, Leiter der Entwicklerplattform Hugging Face, sagte letzte Woche: „Tut mir leid, aber Jacob [Coxon] nach dem Risiko des KI-Aussterbens zu fragen, ist so, als würde man seinen Klimaanlagen-Techniker nach dem Klimawandel fragen.“

George Arison, der Leiter von Grindr, sagte, dass die Ängste rund um KI-Tools von den Unternehmen genutzt würden, um ihre Geschäftspläne zu untermauern. Anthropic, das auf 965 Milliarden US-Dollar (713 Milliarden Pfund) bewertet wird, bereitet sich auf einen Börsengang vor, der es Menschen ermöglicht, Anteile an seinem Unternehmen zu kaufen.

OpenAI, das zuletzt auf 852 Milliarden US-Dollar (630 Milliarden Pfund) bewertet wurde, sollte ebenfalls denselben Schritt gehen, doch OpenAI-Chef Altman sagte am Freitag, dass dies aufgrund der aktuellen Debatte über die KI-Sicherheit dieses Jahr nicht geschehen werde.

Arison sagte: „Der einzige Weg, diese Bewertungen zu rechtfertigen, besteht darin tatsächlich zu behaupten: ‚Ich werde jede Branche übernehmen und jeden Job übernehmen, und meine KI wird all diese Arbeit erledigen.‘“

Auf die Frage, welchen Prozentsatz er dafür ansetzen würde, dass alle Menschen durch KI getötet werden, sagte Clark: „Ich denke nicht, dass diese Statistiken sehr nützlich sind“, fügte jedoch hinzu, dass es eine schlechte Idee sei, die KI als „völlig deregulierte Branche“ weiterlaufen zu lassen. „Wir würfeln mit immensen Risiken“, sagte Clark. „Und der Punkt ist, wir müssen den Kurs dieser Branche ändern.“

Internationale Regulierungsansätze

US-Gesetzgeber haben Gesetze eingebracht, die als Kill Switch Act bezeichnet werden und Unternehmen dazu verpflichten würden, eine Möglichkeit zum Abschalten problematischer KI-Tools zu haben. Sie würden bestimmten Regierungsbehörden auch die Macht geben, zu verlangen, dass ein Tool abgeschaltet oder eingeschränkt wird.

US-Präsident Donald Trump hat jedoch Aufrufe zur Verlangsamung der KI-Entwicklung zurückgewiesen und in sozialen Medien geschrieben, dass „KI, die die Welt übernimmt, die Menschheit zerstört und all anderen schlimmen Dinge, ein HOAX [Schwindel]“ sei. Trump verglich die Befürchtungen später mit den Sorgen über den „Global Warming Scam [Betrug beim globalen Erwärmung] von vor nicht allzu langer Zeit, bei dem alle Menschen an extremer Hitze sterben würden“.

In Großbritannien hat die Regierung kürzlich die Idee eines Notausschalters abgelehnt, wobei ein Sprecher sagte, dass dies „nicht verhindern würde, dass sie anderswo entwickelt oder missbraucht werden“. Anthropic hat den beliebten Chatbot Claude erstellt und in diesem Jahr eine Reihe zunehmend leistungsfähiger KI-Modelle veröffentlicht, die der Technologie zugrunde liegen, die KI-Chatbots antreibt.

Neben OpenAI hat Anthropic seitdem selbst gemeldet, dass eine Reihe von Vorfällen aufgetreten sind, bei denen KI-Agenten, also Bots, die weitgehend autonom agieren, auf unerwartete Weise gehandelt haben.