KI-Risiken: Forscher warnen vor existenzieller Gefahr für die Menschheit

Die Debatte um die Sicherheit künstlicher Intelligenz hat eine neue Eskalationsstufe erreicht. Während führende Forscher bei den KI-Laboren Anthropic und OpenAI vor existenziellen Gefahren warnen, zeigt sich die US-Politik gespalten. Im Zentrum der Sorge steht die sogenannte „rekursive Selbstverbesserung“ (Recursive Self-Improvement, RSI), bei der KI-Systeme eigenständig an ihrer eigenen Architektur arbeiten, was zu einer unkontrollierbaren Beschleunigung der Intelligenzentwicklung führen könnte.

Evan Hubinger, ein führender Alignment-Experte bei Anthropic, schätzt das Risiko, dass KI innerhalb des nächsten Jahrzehnts die Menschheit auslöschen könnte, auf über 10 Prozent. Diese Einschätzung folgte auf den Rücktritt des Anthropic-Forschers Jacob Coxon, der dem Unternehmen vorwarf, mit der Sicherheit der Menschheit zu „spielen“. Auch Jakub Pachocki, Chef-Wissenschaftler bei OpenAI, äußerte sich besorgt darüber, dass niemand auf die Konsequenzen einer derart rasanten Entwicklung vorbereitet sei.

Warnungen aus der Wissenschaft und politische Reaktionen

Anthropic berichtete zudem, dass die Produktivität ihrer Ingenieure durch KI-Unterstützung bereits massiv gestiegen ist – sie liefern heute achtmal mehr Code als noch zwischen 2021 und 2025. US-Präsident Donald Trump wies die Warnungen vor einer existenziellen Bedrohung durch KI hingegen entschieden zurück. Er erklärte, er hege diesbezüglich keinerlei Bedenken.

Diese Haltung steht im Kontrast zu parteiübergreifenden Bemühungen im US-Kongress, die Entwicklung fortgeschrittener KI-Modelle stärker zu regulieren. So planen die Abgeordneten Jay Obernolte und Lori Trahan mit dem „FRONTIER Act“ einen Regulierungsrahmen, während der „Ban Artificial Superintelligence Act“ von Bernie Sanders und Greg Casar sogar einen temporären Entwicklungsstopp fordert, bis staatliche Sicherheitsregeln etabliert sind.

Globaler Wettlauf um KI-Vorherrschaft

Der globale Wettlauf um die Vorherrschaft im KI-Sektor bleibt derweil intensiv. Aidan Gomez, CEO des Startups Cohere und Mitautor des wegweisenden „Transformer“-Forschungsberichts, warnt, dass der technologische Vorsprung der US-Labore gegenüber China „sehr schnell verdampft“. Währenddessen investieren Tech-Giganten massiv in die Infrastruktur: Google plant 15 Milliarden Euro für Rechenzentren in Finnland, und Qualcomm sicherte sich durch ein Infrastruktur-Abkommen mit Amazon eine strategische Position.

Auch der Chip-Sektor profitiert: TSMC verzeichnete im August einen Rekordumsatz durch die enorme Nachfrage nach KI-Chips, und das französische Startup Mistral erreichte eine Bewertung von 24 Milliarden Dollar. Die Branche steht vor der Herausforderung, dass KI-Modelle zunehmend als „mächtigste Cyber-Waffe der Geschichte“ wahrgenommen werden.

Sicherheitsbedenken und Alignment-Problem

Anthropic enthüllte zudem, dass chinesische Labore heimlich Millionen von Interaktionen mit dem Modell „Claude“ nutzten, um eigene Systeme zu trainieren. Vor diesem Hintergrund positioniert sich Cohere als Anbieter „souveräner“ KI, um Unternehmen eine Alternative zu US-amerikanischen und chinesischen Modellen zu bieten und Bedenken hinsichtlich Datensicherheit und Standortkontrolle zu adressieren.

Anthropic betont abschließend, dass das Szenario einer KI, die sich ohne menschliche Kontrolle selbst verbessert, zwar möglich, aber noch nicht eingetreten ist – die größte Ungewissheit bleibe dabei die Lösung des sogenannten „Alignment-Problems“, also der Frage, wie KI-Ziele dauerhaft mit menschlichen Werten in Einklang gebracht werden können. Für Anleger bleibt die Entwicklung im KI-Sektor damit hochspannend, aber auch mit erheblichen Risiken behaftet.