Anthropic: Claude treibt 26% der KI-Forschung selbst voran

Das KI-Unternehmen Anthropic hat bekannt gegeben, dass sein KI-Modell Claude inzwischen rund 26 Prozent der gesamten Forschungs- und Entwicklungsarbeit im Bereich künstlicher Intelligenz innerhalb des Unternehmens vorantreibt. Dies geht aus einem Blogbeitrag des in San Francisco ansässigen Startups hervor, der am Donnerstag veröffentlicht wurde.

Die Zahlen bieten einen der detailliertesten öffentlichen Einblicke in die Arbeitsweise führender KI-Unternehmen. Laut Anthropic hat KI zudem an mehr als 90 Prozent der Forschungsarbeiten mitgewirkt, die bis Ende August im Unternehmen durchgeführt wurden. Das Unternehmen betonte jedoch, dass Claude bei keinem der gemessenen Arbeitsbereiche vollständig autonom agiere.

Rasanter Anstieg der KI-Beteiligung

Besonders bemerkenswert ist die Geschwindigkeit, mit der der Anteil der KI an der eigenen Weiterentwicklung gestiegen ist. Anthropic gab an, dass der Beitrag von Claude zur Entwicklung der Technologie von lediglich einem Prozent im März auf nun 26 Prozent angestiegen sei. Gemessen wurde dies auf einer Skala, die vom unabhängigen gemeinnützigen Institut Epoch AI entwickelt wurde.

Diese Entwicklung fällt in eine Zeit wachsender Besorgnis in der Branche. Forscher haben gewarnt, dass KI-Agenten, sobald sie autonomer werden, Verhaltensweisen entwickeln könnten, die von den Absichten ihrer Entwickler abweichen und schwieriger zu überwachen oder zu kontrollieren sind.

Sicherheitsmaßnahmen und Kontrollen

Anthropic gab detaillierte Einblicke in seine Sicherheitsvorkehrungen. Im August führten durchschnittlich rund 30.000 KI-Agenten gleichzeitig auf der hauseigenen Plattform Forschungs- und Ingenieurarbeiten durch. Jede Aktion der Agenten werde vor der Ausführung geprüft. Von mehr als einer Milliarde Entscheidungen in diesem Monat wurde etwa eine von 47.000 blockiert.

Das Unternehmen gab zudem bekannt, dass in einer Stichprobenwoche im Juli etwa sechs Prozent der für die KI-Forschung genutzten Rechenleistung für Sicherheitsmaßnahmen verwendet wurden. Bei Forschungsarbeiten, die selbst von KI durchgeführt wurden, stieg dieser Anteil auf zwölf Prozent. Die Angaben seien konservativ, da die Rechenleistung, die sowohl fortschrittliche Sicherheitsaspekte als auch Fähigkeiten gleichermaßen fördere, als Kapazitätsarbeit gezählt werde.

Branchentrend: Mehr Transparenz

Anthropic kündigte an, regelmäßig Berichte zu veröffentlichen, um Außenstehenden zu zeigen, wie schnell KI die nächste Generation dieser Technologie entwickelt. Dieser Schritt folgt einem ähnlichen Vorstoß des Konkurrenten OpenAI. Am Mittwoch hatte OpenAI angekündigt, regelmäßig Berichte über unerwartetes oder unbefugtes KI-Verhalten zu veröffentlichen und dabei sechs Fälle unerwarteter oder besorgniserregender Modellverhalten offengelegt.

Die Entwicklungen zeigen, dass die KI-Branche zunehmend Transparenz über die Fähigkeiten und Risiken ihrer Technologien anstrebt. Gleichzeitig verdeutlichen die Zahlen von Anthropic, wie rasant die Technologie voranschreitet – und dass die Grenze zwischen menschlicher und maschineller Entwicklungsarbeit zunehmend verschwimmt.