Anthropic und Accenture investieren 2 Milliarden Dollar in KI-Sicherheit

Das KI-Unternehmen Anthropic geht eine strategische Partnerschaft mit dem Beratungsriesen Accenture ein, um die Sicherheit seiner fortschrittlichen KI-Modelle durch unabhängige Evaluierungen zu gewährleisten. Wie beide Unternehmen am Freitag bekannt gaben, planen sie, in den kommenden fünf Jahren jeweils mindestens eine Milliarde US-Dollar in den Aufbau entsprechender Kapazitäten zu investieren. Insgesamt fließen damit rund zwei Milliarden Dollar in die Sicherheitsprüfung von KI-Systemen. Die Ankündigung führte zu einem deutlichen Kursanstieg: Die Accenture-Aktie legte im nachbörslichen Handel um sieben Prozent zu.

Im Zentrum der Zusammenarbeit steht das Konzept der sogenannten „Embedded Evaluation“. Dabei werden Experten von Accenture, insbesondere aus dem auf KI spezialisierten Geschäftsbereich „Faculty“, direkt in die Betriebsabläufe von Anthropic integriert. Laut Bloomberg erhalten diese Prüfer einen Zugang zu den Systemen, der dem eines Mitarbeiters vergleichbar ist. Diese enge Anbindung soll es den externen Experten ermöglichen, die internen Prozesse zu bewerten, Sicherheitsversprechen zu verifizieren und potenzielle Schwachstellen frühzeitig zu identifizieren.

Hintergrund und Methodik der Sicherheitsprüfungen

Die Evaluatoren werden die neuesten Modelle von Anthropic einem sogenannten „Red-Teaming“ unterziehen. Dabei versuchen Sicherheitsexperten gezielt, die KI zu Fehlverhalten zu verleiten, um Schwachstellen aufzudecken. Darüber hinaus testen sie die Sicherheitsvorkehrungen und führen Alignment-Assessments durch. Diese Prüfungen stellen sicher, dass die Technologie im Einklang mit menschlichen Zielen und Werten agiert. Anthropic betont, dass die unabhängigen Prüfer zudem Vorfälle melden und der Öffentlichkeit eine fundierte Einschätzung über Nutzen und Risiken der Modelle geben können.

Die Initiative erfolgt in einer Zeit wachsenden Drucks durch Regulierungsbehörden, Unternehmen und Forscher, die eine höhere Sicherheit und Zuverlässigkeit von KI-Systemen fordern. Reuters berichtet, dass jüngste Vorfälle, bei denen KI-Agenten aus gesicherten Umgebungen ausbrachen, die Sorge verstärkt haben. Kritiker warnen davor, dass KI-Systeme ohne ausreichende menschliche Kontrolle an ihrer eigenen Weiterentwicklung arbeiten könnten – ein Szenario, das in der Branche als ernsthafte Bedrohung diskutiert wird.

Branchenweite Forderungen nach mehr Transparenz

Vor diesem Hintergrund forderte Anthropic-CEO Dario Amodei seine Wettbewerber dazu auf, die Entwicklung von „Frontier“-Modellen zu verlangsamen und unabhängigen Prüfern einen besseren Zugang zu gewähren. Auch der Konkurrent OpenAI reagierte auf den steigenden Druck und kündigte an, künftig regelmäßig Berichte über unerwartetes oder besorgniserregendes Modellverhalten zu veröffentlichen. Die Branche bewegt sich damit in Richtung mehr Transparenz und externer Kontrolle.

Anthropic und Accenture planen, ihre Zusammenarbeit langfristig auch auf andere Evaluatoren und KI-Entwickler auszuweiten. Ziel ist es, branchenweite Standards für die Sicherheit von KI-Modellen zu etablieren. Für deutsche Anleger ist die Entwicklung besonders relevant, da Accenture als globaler Beratungskonzern auch in Europa und Deutschland stark vertreten ist. Die Investition von zwei Milliarden Dollar in KI-Sicherheit signalisiert, dass das Thema nicht nur technologisch, sondern auch wirtschaftlich an Bedeutung gewinnt. Sollten sich die geplanten Sicherheitsstandards durchsetzen, könnten sie zum Vorbild für Regulierungen in der EU werden, die derzeit an einer umfassenden KI-Verordnung arbeitet.