Anthropic wählt Accenture als ersten eingebetteten KI-Sicherheitsprüfer

Anthropic hat Accenture als ersten eingebetteten Prüfer ausgewählt – ein konkreter Schritt zur Umsetzung des Vorschlags von CEO Dario Amodei, das Tempo der KI-Entwicklung zu drosseln. Die Ankündigung erfolgte am Freitag und markiert einen Wendepunkt in der Debatte um KI-Sicherheit.

Beide Unternehmen haben sich laut einer Pressemitteilung verpflichtet, über die nächsten fünf Jahre hinweg mindestens eine Milliarde Dollar in „den Aufbau von Kapazitäten in diesem Bereich“ zu investieren. Anthropic erklärte jedoch, dass es aufgrund der „Bedeutung und Dringlichkeit“ die Arbeit von Accenture direkt finanzieren werde.

„Langfristig sind wir der Ansicht, dass die Finanzierung aus gemeinsamen oder staatlichen Quellen stammen sollte, wie wir es im Juni mit unserem Rahmenwerk für fortschrittliche KI gefordert haben“, teilte Anthropic mit. „Da diese beiden Quellen heute noch nicht existieren, planen wir, mit verschiedenen Prüfern unter unterschiedlichen Finanzierungsvereinbarungen zusammenzuarbeiten.“

Amodeis Dreipunkteplan und die Reaktion der Branche

Am Samstag sorgte Amodei in der Tech-Branche für Aufsehen, indem er einen Dreipunkteplan zur Mäßigung der Geschwindigkeit veröffentlichte, mit der KI-Unternehmen ihre fortschrittlichsten Modelle verbessern. Der erste Schritt des Plans räumt externen Prüfern Zugriff auf Mitarbeiterebene ein, um Sicherheitspraktiken zu überprüfen und Vorfälle zu melden.

Amodei sagte am Samstag, dass Anthropic sich „einseitig“ zu diesem Teil des Vorschlags verpflichtet habe, und ermutigte andere KI-Unternehmen, dies ebenfalls zu tun. Der Vorschlag wurde von einigen Branchenführern begrüßt, darunter OpenAI-CEO Sam Altman sowie Tesla- und SpaceX-Chef Elon Musk.

Andere, wie Nvidia-CEO Jensen Huang, wiesen die Bedenken jedoch zurück und argumentierten, dass keine neuen Regulierungen erforderlich seien. Viele Branchenbeobachter hinterfragten zudem, was Amodeis Vorschlag in der Praxis bedeuten würde – insbesondere da sich Anthropic auf einen Börsengang vorbereitet, der allgemein als großer Erfolg erwartet wird.

Konkrete Umsetzung der Partnerschaft

Anthropic gab bekannt, dass es zunächst vereinbart hat, Mitarbeiter von Faculty, dem spezialisierten KI-Geschäftsbereich von Accenture, in das Unternehmen zu integrieren. Diese sollen Schutzmaßnahmen testen, Modelle einem Red-Teaming unterziehen und bewerten, ob das Verhalten der Modelle mit menschlichen Werten übereinstimmt.

Die Partnerschaft ist nicht exklusiv. Anthropic teilte mit, dass es Gespräche mit der gemeinnützigen Forschungsorganisation METR sowie anderen Dritten führt. Das Unternehmen betonte, dass es weiterhin für die Sicherheit seiner Modelle verantwortlich sei und die Zusammenarbeit mit eingebetteten Prüfern seine Rechenschaftspflicht nicht verringere.

„Wir teilen diese frühen Bemühungen jetzt, damit Menschen und andere KI-Entwickler unseren Prozess nachvollziehen können“, erklärte Anthropic. „Wir erwarten, dass sich unser Ansatz weiterentwickelt, wenn die Branche reift, und wir werden mehr teilen, sobald unsere Arbeiten beginnen und wir zusätzliche Prüfer hinzufügen.“

Hintergrund: Wachsender Druck auf KI-Unternehmen

Anthropic und sein Hauptrivale OpenAI standen in den letzten Wochen unter intensiver Beobachtung, nachdem eine wachsende Zahl von Forschern vor dem Potenzial von KI gewarnt hatte, katastrophalen Schaden für die Menschheit anzurichten. Die Debatte um KI-Sicherheit hat damit eine neue Dimension erreicht – weg von theoretischen Diskussionen hin zu konkreten Maßnahmen.

Die Entscheidung von Anthropic, externe Prüfer zu integrieren, könnte Signalwirkung für die gesamte Branche haben. Während einige Unternehmen wie Nvidia regulatorische Eingriffe ablehnen, setzt Anthropic mit der Accenture-Partnerschaft auf Transparenz und unabhängige Kontrolle – ein Schritt, der auch im Hinblick auf den geplanten Börsengang des Unternehmens von Bedeutung sein dürfte.