Anthropic: KI-Unternehmen können nicht auf Ehrenkodex verpflichtet werden

Sarah Heck, Leiterin der öffentlichen Politik bei Anthropic, hat sich klar gegen eine rein freiwillige Selbstregulierung der KI-Branche ausgesprochen. KI-Unternehmen könnten Aufsichts- und Sicherheitsbedenken nicht durch die Einhaltung eines „Ehrenkodex" bewältigen, sagte Heck am Mittwoch. Ihre Äußerungen fallen in eine Zeit intensiver Debatten über die Geschwindigkeit der KI-Entwicklung und mögliche Regulierungen.

Die Aussagen erfolgen nur wenige Tage, nachdem Anthropic-CEO Dario Amodei den Technologiesektor aufschreckte. Amodei forderte die Branche auf, das Tempo der Modellentwicklung bewusst zu verlangsamen. Am Samstag legte er einen Dreipunkteplan vor, um die rasante Verbesserung der Modellfähigkeiten zu dämpfen – ohne dabei „kommerzielle Vorteile oder die Führungsposition der USA im Bereich künstliche Intelligenz" zu opfern.

Branchengrößen unterstützen Amodeis Vorstoß

Branchenexecutives reagierten umgehend auf Amodeis Vorschlag. OpenAI-CEO Sam Altman, SpaceX-CEO Elon Musk und Google DeepMind-Vorsitzender Demis Hassabis sprachen sich öffentlich für den Plan aus. Der Vorstoß kam nach einer Warnung von Branchenforschern in der vergangenen Woche, die auf potenziell katastrophale Schäden durch Künstliche Intelligenz hingewiesen hatten.

Doch nicht alle Technologieführer teilen die Bedenken. Nvidia-CEO Jensen Huang und Meta-CEO Mark Zuckerberg sind weniger davon überzeugt, dass die Entwicklung absichtlich verlangsamt werden muss. Während einer Keynote auf der jährlichen Dreamforce-Konferenz von Salesforce am Dienstag sagte Huang, die Branche benötige keine neuen Gesetze oder Vorschriften. Geschwindigkeit und Sicherheit seien keine ausschließenden Gegensätze, so Huang. Unternehmen sollten sich jedoch zurückhalten, bis sie sicher seien, Produkte freizugeben, die launchbereit seien.

Zuckerberg griff Huangs Kommentare auf und erklärte, Meta habe die Veröffentlichung von Muse, seinem persönlichen KI-Agenten, um „mehrere Monate verzögert, um sich auf Sicherheit und Schutz zu konzentrieren."

Anthropic im engen Austausch mit der Politik

Heck betonte am Mittwoch, dass Anthropic mit dem Weißen Haus „täglich" in Kontakt stehe. Das Unternehmen habe das ganze Jahr über mit dem Kongress zusammengearbeitet. Sie unterstrich, dass Anthropic bemüht sei, „die schwierigen Fragen jetzt zu stellen."

„Wenn wir nicht jetzt anfangen, über einige dieser schwierigen Dinge nachzudenken – sei es, wie wir mit China umgehen, sei es, wie wir die KI-Regulierung gestalten, sei es, wie wir unsere eigenen Schutzmaßnahmen weiterentwickeln –, wenn wir das nicht jetzt tun, kann es zu spät sein", so Heck.

Die Debatte zeigt die tiefe Spaltung innerhalb der Technologiebranche. Während einige Unternehmen auf verbindliche Regeln drängen, setzen andere weiterhin auf freiwillige Maßnahmen und Eigenverantwortung. Für deutsche Anleger ist die Entwicklung relevant, da regulatorische Entscheidungen in den USA oft als Blaupause für europäische Regelungen dienen. Die EU arbeitet bereits am AI Act, einem umfassenden Regelwerk für Künstliche Intelligenz.