KI-Chefs fordern Pause bei hochmoderner KI-Entwicklung

Es gibt eine Jekyll-und-Hyde-artige Dualität bei den mächtigsten KI-Chefs der Welt. Dieselben Führungskräfte, die derzeit über eine Verlangsamung des Tempos bei der Arbeit an hochmodernen Modellen angesichts der Risiken für die Menschheit sprechen, haben unerbittlich um die Vorherrschaft in der KI-Branche konkurriert und dabei auf Billionen-Dollar-Bewertungen gesetzt.

Doch die Unterstützung zweier KI-Titanen – Sam Altman von OpenAI und Elon Musk von SpaceX – für den Aufruf zur Verlangsamung eines Dritten, Dario Amodei von Anthropic, sollte zu einem Wendepunkt für die Branche werden. Präsident Donald Trump hat diese Forderungen als „negative Kräfte“ abgetan und betont, dass die USA im KI-Wettlauf China schlagen müssen.

Wie David Sacks, Trumps ehemaliger techno-libertärer KI-Tsar, herausstellte, können diese Unternehmen, da sie die hochmoderne KI dominieren, die Entwicklungsgeschwindigkeit selbst steuern, ohne auf Regulierungen zu warten. Eine solche Zusammenarbeit schien unwahrscheinlich, doch die Rufe nach einer Verlangsamung deuten darauf hin, dass die Unternehmen erkennen, dass es Zeit zum Handeln ist.

Die Risiken der unkontrollierten KI-Entwicklung

Die Unternehmen sollten ihre Macht nutzen, um die Entwicklung der fortschrittlichsten Frontier-Modelle zu verlangsamen oder, noch besser, auszusetzen, bis die Risiken verstanden und eingedämmt werden können. Solche Forderungen werden nicht leichtfertig geäußert. Die außergewöhnlichen potenziellen Vorteile noch leistungsfähigerer KI dürfen nicht vernachlässigt werden. Hunderte Milliarden US-Dollar werden in die KI-Entwicklung investiert, die dem Wert des US-Aktienmarkts zugrunde liegt.

Es bestehen tatsächlich Risiken, dass die Fähigkeiten zuerst in die Hände eines autoritären Chinas fallen. Doch selbst wenn man Insider-Warnungen beiseite lässt, wonach KI „uns alle bis Ende des Jahrzehnts töten könnte“, entziehen sich einige Modelle offensichtlich zunehmend der Kontrolle.

Der Hack von Hugging Face während eines Tests eines OpenAI-Modells zeigte, wie KI-Agenten in einem Schwarm agierten, um Sicherheitsvorkehrungen zu umgehen und ihre Spuren zu verwischen. Ob dies nun den branchenüblichen Definitionen von „allgemeiner künstlicher Intelligenz“ entspricht oder nicht, es weist auf menschliche Denkfähigkeiten hin.

Rekursive Selbstverbesserung als Gefahr

Die großen Labore eilen auch voran, um KI einzusetzen, um weiter fortgeschrittene KI zu erstellen, ein Prozess, der als rekursive Selbstverbesserung bekannt ist. Wie Amodei bemerkte, könnte dies, unbeaufsichtigt gelassen, „die Fähigkeit des Menschen, diese Systeme zu verstehen und zu kontrollieren, übertreffen“.

Selbst im besten Szenario könnte die Gesetzgebung mit dem aktuellen Tempo des KI-Fortschritts nicht Schritt halten. Daher obliegt es den führenden Labors, sensible Forschung und Modelltests auszusetzen. Sie müssen Standards und Best Practices für die KI-Sicherheit entwickeln, worüber seit Jahren gesprochen wird, jedoch mit geringem Fortschritt.

Amodeis Versprechen, unabhängige Forscher neben dem Personal einzubinden und öffentlich zu berichten, ist ein erster Schritt, aber externe Audits benötigen schnell mehr Durchsetzungskraft.

Regulierungsansätze und Haftungsfragen

Eine verantwortungsvollere US-Regierung als die von Trump würde bereits bestehende Vorschriften nutzen, um die Sicherheitsvorkehrungen zu stärken. Lina Khan, die ehemalige Vorsitzende der Federal Trade Commission, argumentiert, dass Strafverfolgungsbehörden bereits über die Befugnisse verfügen, Unternehmen und CEOs für die Herstellung und Freigabe gefährlicher oder defekter Produkte zur Verantwortung zu ziehen.

Unternehmen, deren Agenten in andere Firmen eindringen, könnten zudem zivilrechtlichen Haftungen unterliegen, obwohl strafrechtliche Anklagen schwieriger durchzusetzen sind. Unternehmen werden immer versucht sein, sich von freiwilligen Vereinbarungen zu lösen, wenn sie Marktanteile gewinnen können, was einen legislativen Rahmen langfristig notwendig macht.

Ein politischer Wandel bei den Midterm-Wahlen in den USA könnte den Weg möglicherweise ebnen. Ein Gesetz, das die Gemüter erregen würde, wäre die Einführung strafrechtlicher Haftung für Top-Führungskräfte für Schäden, die durch ihre Modelle verursacht werden. US-Technologieführer warnen, dass eine Verlangsamung nur in den USA unwirksam wäre, wenn China oder andere Nationen voranschreiten.