Anthropic veröffentlicht Kennzahlen zur Überwachung der KI-Entwicklung

Das KI-Unternehmen Anthropic hat drei neue Kennzahlen vorgestellt, die Unternehmen dabei helfen sollen, das Tempo der Entwicklung künstlicher Intelligenz besser zu überwachen. Der Schritt erfolgt nur wenige Tage, nachdem CEO Dario Amodei mit einem Aufruf zu einer koordinierten Verlangsamung der KI-Entwicklung für Aufsehen gesorgt hatte.

In einem Blogbeitrag vom Donnerstag erläuterte Anthropic, dass das Unternehmen intern die von KI geleitete Forschung und Entwicklung (F&E), die Aufsicht über KI-Agenten sowie die Zuweisung von Rechenkapazität („Compute“) misst. Die vorgestellten Methodologien sollen andere Organisationen ermutigen, ähnliche Messverfahren zu etablieren.

Hintergrund des Vorstoßes

Die neuen Kennzahlen bauen auf dem dreistufigen Verlangsamungsplan auf, den Amodei am Samstag veröffentlicht hatte. Dieser Plan enthielt jedoch nur wenig Konkretes zur praktischen Umsetzung. Amodeis Aufruf zur Verlangsamung erhielt am Wochenende Unterstützung von namhaften Branchenführern, darunter OpenAI-CEO Sam Altman, SpaceX-CEO Elon Musk und Google-DeepMind-Vorsitzender Demis Hassabis.

Der Vorstoß folgt auf scharfe Warnungen von Forschern hinsichtlich des wachsenden Schadenspotenzials von KI-Systemen. Amodei betonte, dass sein Plan darauf abziele, die Geschwindigkeit zu dämpfen, mit der sich die Fähigkeiten der Modelle verbessern – ohne dabei „kommerzielle Vorteile oder die Führungsposition der USA im Bereich KI“ zu opfern.

Die drei Kennzahlen im Detail

Für seine erste Kennzahl gab Anthropic an, dass die hauseigenen Claude-Modelle für keinen Teilbereich der gemessenen Forschungs- und Entwicklungsarbeit „nicht vollständig autonom“ operieren. Das Unternehmen betont damit, dass menschliche Kontrolle weiterhin ein zentraler Bestandteil des Entwicklungsprozesses ist.

Die zweite Kennzahl befasste sich mit dem Aufbau eines Systems zur Überwachung und Intervention bei Aktionen, die von KI-Agenten ausgeführt werden. Anthropic stellte fest, dass zu jedem Zeitpunkt etwa 30.000 Agenten Forschungs- und Ingenieursarbeiten auf seiner am häufigsten genutzten internen Plattform durchführen. Diese Zahl verdeutlicht das Ausmaß der KI-gestützten Aktivitäten innerhalb des Unternehmens.

Für die dritte Kennzahl maß Anthropic einen „Momentaufnahme“-Blick darauf, wie das Unternehmen seine gesamte Rechenkapazität vom 13. bis zum 20. Juli nutzte. Die Ergebnisse zeigen, dass rund 6 Prozent der für KI-Forschung und -Entwicklung eingesetzten Rechenkapazität für Sicherheitsmaßnahmen allokiert wurden. Bei der Betrachtung der spezifisch für „KI-getriebene“ Forschungs- und Entwicklungsarbeiten zugewiesenen Rechenkapazität lag der Anteil für Sicherheit bei etwa 12 Prozent.

Bewertung und Einordnung

Anthropic erklärte, dass diese Kennzahlen am besten geeignet seien, um darzustellen, wie Modelle aufgebaut sind. Sie sollten Kompetenzbewertungen ergänzen, die zeigen, „was Modelle leisten können“. Zusammengenommen böten sie Dritten außerhalb des Labors einen „Ausgangspunkt“, um das Tempo der KI-Entwicklung zu bewerten.

Die Initiative von Anthropic ist bemerkenswert, da sie Transparenz in einem Bereich schafft, der bislang weitgehend intransparent geblieben ist. Während viele KI-Unternehmen ihre internen Entwicklungsprozesse und Sicherheitsvorkehrungen nicht offenlegen, geht Anthropic mit der Veröffentlichung dieser Kennzahlen einen Schritt in Richtung mehr Offenheit.

Für deutsche Anleger und Beobachter des KI-Sektors ist dies ein wichtiges Signal: Die Diskussion um Sicherheit und Entwicklungstempo in der KI-Branche gewinnt an Dynamik. Sollten sich derartige Transparenzinitiativen durchsetzen, könnte dies langfristig Auswirkungen auf die regulatorische Landschaft und die Wettbewerbsbedingungen in der gesamten Branche haben.