Anthropic und Accenture starten milliardenschwere KI-Sicherheitspartnerschaft

Das KI-Unternehmen Anthropic hat den Beratungskonzern Accenture als unabhängigen Prüfer für die Sicherheit seiner Modelle verpflichtet. Beide Unternehmen planen, im Rahmen einer fünfjährigen Partnerschaft jeweils mindestens eine Milliarde US-Dollar zu investieren, um neue Sicherheitsvorkehrungen zu entwickeln. Die Aktien von Accenture reagierten positiv auf die Nachricht und stiegen im nachbörslichen Handel um bis zu neun Prozent.

Die Kooperation wird von dem britischen KI-Unternehmen Faculty geleitet, das im Januar für eine Milliarde Dollar von Accenture übernommen wurde. Marc Warner, Gründer von Faculty und nun Chief Technology Officer bei Accenture, betonte, dass KI „sicher durch Design“ sein müsse. Das Team von Accenture wird als „Red Team“ fungieren, das gezielt versucht, die Sicherheitsvorkehrungen der Claude-Modelle zu umgehen, und zudem die bestehenden Alignment-Prozesse von Anthropic bewerten.

Hintergrund und Branchenkontext

Die Initiative folgt auf einen Aufruf von Anthropic-CEO Dario Amodei, der eine koordinierte Verlangsamung der KI-Forschung sowie den Einsatz externer Prüfer gefordert hatte. Dieser Vorstoß wurde von Branchengrößen wie Sam Altman (OpenAI) und Elon Musk (xAI) unterstützt. Während Anthropic einräumt, dass die Finanzierung unabhängiger Prüfer langfristig durch staatliche oder gemeinschaftliche Quellen erfolgen sollte, begründet das Unternehmen die direkte Bezahlung von Accenture mit der Dringlichkeit der Aufgabe.

Anthropic befindet sich derzeit in der Vorbereitung auf einen Börsengang, der das Unternehmen mit über zwei Billionen Dollar bewerten könnte. Die Partnerschaft ist nicht exklusiv; Anthropic hofft, dass auch andere Entwickler auf die Expertise von Accenture zurückgreifen werden. Dennoch gibt es kritische Stimmen, die die Unabhängigkeit solcher von den KI-Laboren selbst finanzierten Prüfgruppen in Frage stellen.

Wettbewerb und aktuelle Risiken

Konkurrenten wie Meta und Amazon verfolgen einen anderen Ansatz und setzen stärker auf Selbstregulierung statt auf externe Evaluierung. Die Ankündigung erfolgt in einer Zeit erhöhter Aufmerksamkeit für KI-Risiken. Wie das Wall Street Journal berichtete, wurde Anthropic erst kürzlich mit einem Vorfall konfrontiert, bei dem Hacker das Modell Claude nutzten, um in Systeme von OpenAI einzudringen.

Accenture bringt in die Zusammenarbeit seine langjährige Erfahrung aus dem Bereich „Trust and Safety“ ein, in dem das Unternehmen bereits für Plattformen wie Facebook und YouTube als externer Dienstleister für die Inhaltsmoderation tätig war. Anthropic ergänzte zudem, dass man bereits Gespräche mit gemeinnützigen Organisationen wie METR über weitere Pilotprojekte zur Sicherheitsprüfung führe.

Für deutsche Anleger ist die Entwicklung in mehrfacher Hinsicht interessant. Accenture ist als einer der weltweit führenden Beratungskonzerne auch an der Frankfurter Börse notiert und profitiert direkt vom wachsenden Bedarf an KI-Sicherheitsdienstleistungen. Die milliardenschwere Partnerschaft zeigt, dass das Thema KI-Sicherheit zunehmend zu einem eigenständigen Geschäftsfeld wird, das weit über die reine Technologieentwicklung hinausgeht. Zugleich bleibt die Frage der Unabhängigkeit externer Prüfer ein zentraler Diskussionspunkt, der die weitere Regulierung der Branche maßgeblich beeinflussen dürfte.