Anthropic-IPO: Die Mutter aller Risikofaktoren im Prospekt

Roula Khalaf, Herausgeberin der Financial Times, wählt in diesem wöchentlichen Newsletter ihre Lieblingsberichte aus. Während Anthropic den Weg an die Börse bereitet, richtet sich die Aufmerksamkeit auf einen Teil des Prospekts, den normalerweise niemand liest: den Abschnitt zu den Risikofaktoren.

Wenn ein Unternehmen einen Börsengang (IPO) startet, enthält das Angebotsdokument eine lange Liste von „Risikofaktoren“. Theoretisch sollen diese potenzielle Anleger darauf hinweisen, was schiefgehen könnte. In der Praxis dienen sie jedoch als Versicherungspolice für den Emittenten und schützen ihn vor rechtlichen Ansprüchen, falls er Investoren nicht über kursnegative Umstände gewarnt hat.

Der Prospekt wird eine enzyklopädische Bandbreite an Risiken auflisten – von Kundenkonzentration über wirtschaftliche Abschwünge und schlechtes Wetter bis hin zu Währungsabwertungen, Klagerisiken und behördlichen Verschärfungen. Selbst ungewöhnliche Unternehmen wie SpaceX machen hier keine halben Sachen. Dessen Prospekt umfasste erschreckende 36 dichte Seiten mit Aufzählungen dessen, was schiefgehen könnte.

Infolgedessen ignorieren Investoren den Abschnitt zu den Risikofaktoren weitgehend. Wie Alphaville bereits vor drei Jahren schrieb, stellt er in der Regel „eine Mischung aus alarmistischem Fachjargon und standardisiertem Kauderwelsch“ dar, das eher dazu dient, Emittenten vor Haftung zu schützen, als Investoren zu informieren.

Die existenzielle Frage für Anthropic

Der bevorstehende Einreichungsbericht von Anthropic wirft jedoch eine neuartige Frage auf: Wie formuliert man Risikofaktor-Sprache, um die Möglichkeit abzudecken, dass Ihr Produkt die menschliche Zivilisation zerstört? Dies ist keine rhetorische Frage.

Die eigenen öffentlichen Dokumente von Anthropic haben die Risiken als „katastrophal“ definiert, wobei sein Produkt potenziell globale Verwüstung anrichten könnte, einschließlich Todesfällen, Zerstörung, Störungen und Verheerungen. Dario Amodei, der Chief Executive, hat gesagt, dass er die Wahrscheinlichkeit, dass alles „wirklich, wirklich schlecht“ läuft, zwischen 10 und 25 Prozent einschätzt.

Ein ehemaliger Anthropic-Forscher, Jacob Coxon, sagte in dieser Woche: „Die Menschen, die KI entwickeln, ernsthaft glauben, dass sie uns alle bis Ende des Jahrzehnts töten könnte.“ Evan Hubinger, Anthropics Leiter für Alignment Science, tweetete seine Zustimmung: „Jacob hat hier recht – wir glauben tatsächlich ernsthaft, dass KI alle Menschen töten könnte! Ich persönlich denke, dass die Wahrscheinlichkeit >10% innerhalb des nächsten Jahrzehnts liegt. Ich glaube, dass Anthropic sein Bestes tut, aber wir haben noch keinen Plan, um das Alignment-Problem für Superintelligenz zu lösen, und sind auch nicht eindeutig auf dem richtigen Weg dazu.“

Die Grenzen traditioneller Risikobewertung

Investoren mögen dem Abschnitt zu den Risikofaktoren wenig Beachtung schenken, aber sie konzentrieren sich sehr wohl auf Risiken, die in die Bewertung einfließen. Die meisten Risiken sind in gewisser Hinsicht quantifizierbar oder begrenzt: Sie sind versicherbar oder es gibt Präzedenzfälle. Was Investoren nicht gewohnt sind zu tun, ist, den wahrscheinlichkeitsgewichteten Worst-Case-Szenario eines KI-Apokalypse zu berechnen.

Dies ist ein Risikofaktor, wie ihn niemand zuvor gesehen hat. Menschliches Aussterben und der Zusammenbruch der Zivilisation liegen außerhalb des Rahmens der Szenarien, in denen Investitionsrisiken bewertet werden.

Claude formuliert den ultimativen Risikofaktor

Alphaville bat Claude (welches andere Tool auch?) um die Formulierung eines Risikofaktors für den Prospekt. Die KI lieferte folgenden Text: „Unsere KI-Systeme können katastrophale oder existenzielle Risiken darstellen, die wir möglicherweise nicht angemessen antizipieren, verhindern oder abschwächen können. Während unsere Modelle leistungsfähiger werden, können sie gefährliche Fähigkeiten entwickeln oder zeigen, einschließlich des Potenzials, die Erstellung biologischer, chemischer, cybernetischer oder anderer Waffen zu erleichtern oder autonom in Weise zu handeln, die den Absichten ihrer Entwickler oder Betreiber widerspricht.“

Weiter heißt es in Cludes Entwurf: „Unsere eigenen öffentlichen Aussagen haben eine bedeutende Wahrscheinlichkeit geschätzt – nach einigen internen Schätzungen im Bereich von 10% bis 25% –, dass die fortgesetzte Entwicklung zunehmend leistungsfähiger KI-Systeme zu Ergebnissen führen könnte, die einen großflächigen Verlust an Menschenleben, schwere und irreversible Schäden an globalen Wirtschafts- oder Sozialsystemen oder zivilisatorische Störungen im großen Maßstab beinhalten. Das Eintreten eines solchen Ereignisses würde wahrscheinlich zum vollständigen Verlust Ihrer Investition führen, zusammen mit Folgen, die erheblich schwerwiegender sind als der Verlust Ihrer Investition.“

Ein Paradox der Risikoaufklärung

Die Sprache folgt dem Spielbuch der Prospektverfassung – das Hinzufügen jedes denkbaren Risikos, das Abfedern seiner Aussagen mit zögerlichen Qualifikationen („könnte“, „könnte“, „potenziell“). Sie hat den trockenen, blutleeren Ton, den Anwälte gerne verwenden, um Leser in Unterwerfung zu langweilen. Die letzte Zeile über „Folgen, die erheblich schwerwiegender sind als der Verlust Ihrer Investition“ ist je nach Lesart entweder erstaunlich steril oder dunkel humorvoll.

Ein sorgfältig formulierter Risikofaktor kann zwei Zwecke gleichzeitig erfüllen. Einerseits ist es genau das, was den Abschnitt zu den Risikofaktoren für Aktienkäufer praktisch nutzlos macht – eine große CYA-Übung (Cover Your Ass), von der jeder weiß, dass sie eigentlich keine Rolle spielt. Andererseits stützen die drastischen Warnungen die Equity-Geschichte.

Es ist ein Maxime in den Märkten für Eigenkapital, dass der Prospekt sowohl ein legales als auch ein Marketing-Dokument ist. Der Risikofaktor schützt Anthropic vor der Haftung gegenüber Aktionären und unterstreicht gleichzeitig die massive, weltverändernde Wirkung der Frontier-Modelle. Ein normaler Risikofaktor sagt Ihnen, was dazu führen könnte, dass Sie Geld verlieren. Anthropic muss Ihnen möglicherweise sagen, was dazu führen könnte, dass Sie und jeder, den Sie kennen, Ihr Leben verlieren.