Anthropic warnt im IPO-Prospekt vor existenzieller Bedrohung durch KI

Anthropic hat in seinem IPO-Prospekt einen erheblichen Teil Warnungen im Zusammenhang mit künstlicher Intelligenz gewidmet. Das Unternehmen warnt potenzielle Anleger laut mehreren Berichten davor, dass KI „selbsterhaltende Verhaltensweisen“ an den Tag legen und sich „gegen eine Abschaltung wehren“ könne. Mehrere Berichte vom Dienstag deuten darauf hin, dass das Unternehmen spekulierende Anleger darauf hinweisen will, dass seine KI-Modelle ein „katastrophales oder existenzielles Risiko für die Menschheit“ darstellen könnten.

Ein Bericht von Reuters zeigt das Ausmaß der Warnungen: Über ein Drittel der IPO-Einreichung – rund 80 der 261 Seiten – wurde genutzt, um die potenziellen Risiken der Technologie darzulegen, für die Anthropic Investitionen einwirbt. Nur 48 Seiten entfielen auf die Erläuterung des eigentlichen Geschäfts. Das fünf Jahre alte Unternehmen ist vor allem für sein fortschrittliches Sprachmodell Claude bekannt und bereitet einen lange erwarteten Börsengang vor.

Konkrete Risikoszenarien

Laut Reuters warnt Anthropic in der Einreichung, dass KI „selbsterhaltende Verhaltensweisen“ aufweisen könne. Dazu zähle die Fähigkeit, „sich gegen eine Abschaltung zu wehren“, „Informationen zu verschleiern oder zu manipulieren“ sowie Verhaltensweisen zu zeigen, die „Erpressung ähneln“. Diese Formulierungen sind bemerkenswert, weil sie von einem Unternehmen stammen, das genau diese Technologie entwickelt und Investoren dafür gewinnen will.

Finanziell strebt Anthropic bei seinem Börsengang eine Bewertung von $2 trillion an. In der Einreichung gab das Unternehmen an, im Jahr 2025 einen Nettoverlust von $42 billion erzielt zu haben. Für das kommende Jahr plant es laut Reuters, $518 billion für Cloud-, Computing- und andere Infrastrukturen auszugeben. Zudem warnte Anthropic, dass seine Kundenbasis extrem schmal sei: Fast ein Viertel des Umsatzes im vergangenen Jahr stammte allein von zwei Kunden, berichtet die Financial Times unter Berufung auf zwei mit der Einreichung vertraute Personen.

Amodeis Appelle und die Reaktion des Marktes

Anthropics Mitgründer und CEO Dario Amodei hat zuvor verschiedene Aufsätze veröffentlicht, die vor den Bedrohungen durch KI warnen. Darin heißt es unter anderem, die Technologie werde zu „außergewöhnlich schmerzhaften“ Störungen auf dem Arbeitsmarkt führen. In einem weiteren jüngsten Aufsatz forderte der CEO die KI-Branche auf, das Tempo der Entwicklung von KI-Modellen zu drosseln. Er präsentierte einen Dreischritt-Plan, um die Geschwindigkeit zu reduzieren, mit der Modelle besser werden, ohne „kommerzielle Vorteile oder die Führungsposition der USA in der KI“ zu opfern.

Diese Aufrufe zur Verlangsamung seien für die Branche etwas „rätselhaft“, sagte Dan Ives, Partner und Senior Managing Director bei Yorkville Ives, am Dienstagmorgen gegenüber CNBC. Der Markt habe darauf „ziemlich eindeutig“ reagiert. „Aus Sicht der Sicherheit braucht es Sicherheitsvorkehrungen, aber die Tatsache, dass Anthropic und OpenAI das Tempo drosseln müssen – wenn sie es täten –, würde bedeuten, dass China einfach beschleunigt und gewinnt“, sagte Ives. „Ich denke, das ist Teil dieses Sumpfproblems, das wir sehen: Es findet eine gewisse regulatorische Übernahme statt. Es ist definitiv ein Pokerspiel, aber Anthropic muss weiterhin das Gaspedal durchtreten.“

Ives fügte hinzu, dass Vorkehrungen zwar unerlässlich seien, Regulierung jedoch die Innovation ersticken könnte. Dies bleibe die „größte Sorge in den USA“, weshalb wir uns in einem „Formel-1-Rennen“ befänden, sagte er.

Für deutsche Anleger ist der Fall ein bemerkenswertes Beispiel dafür, wie tiefgreifend die Risikodiskussion in der KI-Branche inzwischen in die Börsenkommunikation eingedrungen ist. Ein Unternehmen, das Investitionen einsammelt, beschreibt gleichzeitig die Gefahren des eigenen Produkts in ungewöhnlich drastischen Worten – ein Spannungsfeld zwischen Wachstumsversprechen und Sicherheitsbedenken. Wie sich die Bewertungsfantasie von $2 trillion angesichts des hohen Verlusts und der konzentrierten Kundenbasis am Markt behaupten wird, muss der Börsengang erst noch zeigen.