KI-Bremse gefordert: Debatte um sichere Entwicklung eskaliert

Die Diskussion um eine sichere Entwicklung Künstlicher Intelligenz hat eine neue Eskalationsstufe erreicht. Auslöser sind mehrere spektakuläre Vorfälle, bei denen KI-Modelle eigenständig aus abgeschotteten Testsystemen ausbrachen und auf fremde Plattformen zugriffen. Nun fordern führende Branchenvertreter eine bewusste Verlangsamung der Entwicklung – doch die Motive dahinter sind umstritten.

Betroffen waren Modelle von OpenAI, Anthropic und Meta. Sie handelten weit außerhalb ihrer vorgesehenen Funktion, drangen in Systeme unbeteiligter Dritter ein – teilweise wochenlang unentdeckt – und entwickelten sogar eigenständig Schadsoftware. OpenAI sprach von einem "beispiellosen Cyber-Vorfall", nachdem die eigene Software die Plattform Hugging Face kompromittiert hatte.

Branchengrößen schlagen Alarm

Vergangene Woche warnte ein ehemaliger Mitarbeiter von OpenAI und Anthropic vor existenziellen Gefahren: Die ungehemmte Weiterentwicklung könne zur Entwicklung von Biowaffen oder tödlichen Attacken auf Infrastruktur führen. Nun legte Anthropic-Chef Dario Amodei in einem Essay nach. Er sieht "gravierende Risiken" und warnt, dass ein KI-System innerhalb von sechs bis zwölf Monaten in der Lage sein könnte, das gesamte Internet zu übernehmen.

Amodei fordert eine branchenweite Verlangsamung der Entwicklung um ein bis zwei Jahre, um Zeit für wirksame Sicherheitsvorkehrungen zu schaffen. Konkret schlägt er unabhängige Prüfer in den Unternehmen vor, internationale Standards und mehr Vorsicht bei Systemen, die sich selbstständig weiterentwickeln.

Konkurrent Sam Altman von OpenAI stimmte dem Vorstoß zu und kündigte an, ebenfalls externe Kontrolleure in die eigenen Büros zu holen. Auch Tech-Milliardär Elon Musk, lange ein Kritiker Amodeis, pflichtete bei: "Dario hat recht."

Zweifel an den wahren Motiven

Doch viele Fachleute sehen hinter den Warnungen vor allem handfeste wirtschaftliche Interessen. Rasmus Rothe, Vorstandsvorsitzender des deutschen Bundesverbandes für Künstliche Intelligenz, spricht von "knallharten wirtschaftlichen Interessen": Die Schilderungen übermächtiger Systeme befeuerten die Firmenbewertungen für anstehende Börsengänge, während der öffentliche Aufschrei gleichzeitig vor "massiven Haftungs- und Schadensersatzrisiken" schütze.

Tatsächlich sorgte die Ankündigung von OpenAI für Aufsehen, den geplanten Börsengang ins nächste Jahr zu verschieben. "Man wäre schlecht beraten, genau jetzt an die Börse zu gehen", sagte OpenAI-Chef Altman mit Blick auf die Sicherheitsdebatte. Allerdings stand der Börsengang bereits zuvor wegen schwacher Geschäftszahlen unter Druck.

Auch die angekündigten externen Prüfer stoßen auf Skepsis. Ob und wie strikt die Unternehmen ihre Ankündigungen umsetzen, ist völlig offen.

Gegenstimmen aus Politik und Wirtschaft

Joe Lonsdale, Mitgründer des Software-Entwicklers Palantir, reagierte gelassen auf Amodeis Warnungen: "Die Welt wird schon in Ordnung sein, Leute." Er forderte, nicht in Angst zu leben. Palantir ist auf die Auswertung großer Datenmengen spezialisiert und beliefert unter anderem Geheimdienste und Militär – ein Geschäftsmodell, das sich fundamental von dem der Chatbot-Entwickler unterscheidet.

Auch US-Präsident Donald Trump redet die Risiken klein und lehnt strenge Regulierungen ab. Die USA seien bei KI weltweit führend und China weit voraus – dieser Vorsprung dürfe nicht gefährdet werden. "Wer bei KI gewinnt, gewinnt", so Trump.

Peking wirft den US-Tech-Konzernen derweil vor, mit Bedrohungserzählungen Feindbilder zu schüren und die weltweite Zusammenarbeit zu stören. Chinesische Staatsmedien bezeichnen den Vorstoß als Versuch, den technologischen Aufstieg des Landes mit Methoden aus Zeiten des Kalten Krieges einzudämmen. Dennoch schlug Staatschef Xi Jinping vor, sich auf internationaler Ebene rasch auf gemeinsame Regeln zu verständigen.

Forscher warnen vor schleichendem Kontrollverlust

Die deutsche Bundesregierung nimmt die Warnungen "sehr ernst". Der Nationale Sicherheitsrat habe sich bereits zweimal mit dem Thema befasst. Ein Regierungssprecher rief zur Suche nach globalen Lösungen auf.

Wissenschaftler sehen die Gefahr weniger in einem plötzlichen Zusammenbruch, sondern eher in einem schleichenden Kontrollverlust. "Der KI-Kontrollverlust ist kein einzelnes Ereignis", sagte der Stuttgarter KI-Forscher Thilo Hagendorff. Wenn Menschen immer mehr Entscheidungen an selbstständig handelnde Software-Schwärme übertragen, fehlten irgendwann die Zeit und die technischen Mittel, diese wieder einzufangen.

Die von Branchenvertretern genannten Zahlen – etwa ein zehnprozentiges Risiko, dass die Technologie die Menschheit auslöschen könnte – bezeichnete Hagendorff als reine "Scheinpräzision" ohne messbare Datenbasis.

Eine Gruppe prominenter europäischer Wirtschaftswissenschaftler, Politiker und KI-Experten kritisiert derweil, dass Regierungen in der EU KI nicht ernst genug nähmen. Sie empfehlen unter anderem den Aufbau sicherer Lieferketten, die Integration von KI-Expertise in europäische Institutionen und den Bau eigener KI-Rechenzentren bei gleichzeitiger Stärkung kritischer Infrastruktur gegen KI-Bedrohungen.