Anthropic: KI-Modell Claude hilft bei Entwicklung seines Nachfolgers

Das KI-Unternehmen Anthropic setzt zunehmend auf sein eigenes Sprachmodell Claude, um die nächste, leistungsfähigere Modellgeneration zu entwickeln. Wie das Unternehmen mitteilte, übernimmt Claude inzwischen 26 Prozent der Forschungs- und Entwicklungsarbeit – allerdings weiterhin unter menschlicher Aufsicht.

Im Februar lag dieser Anteil noch bei null Prozent. In rund 90 Prozent der Forschungs- und Entwicklungsaufgaben ist Claude laut Anthropic zumindest beteiligt. Vollständig autonom arbeitet das System bislang nicht.

Rekursive Selbstverbesserung als Schlüsselkennzahl

Anthropic bezeichnete diese Entwicklung als wichtige Kennzahl für die sogenannte rekursive Selbstverbesserung. Darunter versteht man die Fähigkeit eines KI-Modells, eigenständig an der Entwicklung seines Nachfolgers mitzuwirken. Das Unternehmen warnte jedoch zugleich vor den Risiken: Je stärker Modelle ihre eigene Entwicklung beschleunigten, desto schwieriger könne es für Menschen werden, solche Systeme zu verstehen und zu kontrollieren.

Vor diesem Hintergrund forderte Anthropic andere KI-Entwickler auf, vergleichbare Kennzahlen regelmäßig offenzulegen. Nur so könne besser nachvollzogen werden, wie nah die führenden Unternehmen an einer solchen Selbstverbesserung seien. „Wir sollten alles in unserer Macht Stehende tun, um die Kluft zwischen dem, was führende KI-Labore wissen, und dem, was die Öffentlichkeit weiß, zu minimieren“, erklärte das Unternehmen in einem Blogbeitrag.

30.000 KI-Agenten im Einsatz

Nach Angaben von Anthropic waren im August rund 30.000 KI-Agenten für Forschungs- und Entwicklungsaufgaben im Einsatz. Gleichzeitig verwies das Unternehmen auf bestehende Kontrollmechanismen zur Überwachung dieser Systeme und kündigte externe Prüfer für seine Sicherheitsmaßnahmen an.

Die Veröffentlichung fällt in eine breite gesellschaftliche Debatte über das Tempo der KI-Entwicklung. Anthropic-CEO Dario Amodei sowie weitere Branchenvertreter haben sich für eine Verlangsamung ausgesprochen. Andere Tech-Unternehmer und US-Präsident Donald Trump lehnen solche Forderungen hingegen ab.

Für Anleger ist die Entwicklung doppelt relevant: Zum einen zeigt sie, wie rasant sich KI-Systeme weiterentwickeln – ein entscheidender Faktor für die Bewertung von Tech-Aktien. Zum anderen verdeutlicht sie die wachsenden regulatorischen Risiken, die mit einer zunehmend autonomen KI-Entwicklung einhergehen.