Trump lehnt KI-Regulierungen ab – Branche warnt vor Gefahren

Die KI-Branche steckt in einem fundamentalen Dilemma: Während führende Unternehmen wie Anthropic und OpenAI öffentlich vor den Gefahren ihrer eigenen Technologie warnen und strengere Regulierungen fordern, lehnt Präsident Donald Trump jede Form bundesweiter Kontrolle entschieden ab. Trump füllte am Montag seine Social-Media-Kanäle mit Beiträgen, die die Regulierungsbemühungen der Branche untergruben, und bezeichnete die Befürchtungen rund um Künstliche Intelligenz als „Trick“. Damit stellt sich der Präsident offen gegen die führenden Modellentwickler, die versuchen, gleichzeitig schnell genug zu wachsen, um ihre Bewertungen von fast einer Billion US-Dollar zu rechtfertigen, und sich auf die wachsenden Bedenken reagieren müssen, dass ihre Technologie außerhalb der menschlichen Kontrolle geraten könnte.

KI-Führungskräfte schlagen Alarm

Anthropic-CEO Dario Amodei veröffentlichte über das Wochenende einen vielbeachteten Essay, in dem er KI-Unternehmen aufforderte, ihr Entwicklungstempo zu drosseln. Der Vorstoß erfolgte, nachdem die Sicherheitsexperten Jacob Coxon und Joe Benton aus seinem Labor ausgetreten waren und dabei gemeinsame Ängste innerhalb der Branche äußerten, dass KI-Systeme potenziell alle Menschen töten könnten. Amodei schlug einen konkreten Plan zur Überprüfung und Regulierung von KI vor, ohne dabei „kommerzielle Vorteile“ zu opfern oder die nationale Sicherheit der USA zu gefährden.

In einem seltenen Schritt stimmten OpenAI-CEO Sam Altman und Elon Musk von SpaceX Amodei und einander öffentlich zu. Auch <a class="tvreplink" target="_blank" href="https://de.tradingview.com/symbols/Nasdaq%3AMSFT">Microsoft-CEO Satya Nadella sprach sich am Sonntag für ein „bewusstes Tempo“ aus, während Demis Hassabis, der Vorsitzende von Google DeepMind, auf X schrieb, dass „Darios Essay auf den richtigen Weg nach vorne weist“. Meta-CEO Mark Zuckerberg, der aggressiv die neuesten Modelle seines Unternehmens vorantreibt und gleichzeitig versucht, seine Beziehung zu Trump zu verbessern, hat sich zu diesem Thema bisher zurückgehalten.

Amodeis Regulierungsvorschlag im Detail

In einer Branche, die kaum bundesweite Regulierungen kennt, forderte Amodei, dass Modellprüfer bei den führenden KI-Unternehmen stationiert werden sollen. Zudem schlug er die Etablierung von Sicherheitsstandards unter demokratischen Ländern vor, mit einer Koordination zwischen demokratischen und autoritären Regierungen „soweit dies möglich ist“. Anthropic sei verpflichtet, Prüfern „mitarbeiterähnlichen Zugang“ zu gewähren, um die Sicherheit der Modelle des Unternehmens zu überwachen und zu überprüfen.

Als Beispiel für einen Drittanbieter-Prüfer nannte Amodei METR, eine gemeinnützige Organisation, die von einem ehemaligen Forscher von OpenAI und DeepMind gegründet wurde. Deren Mission besteht darin, „wissenschaftliche Methoden zur Bewertung katastrophaler Risiken zu entwickeln, die von den autonomen Fähigkeiten von KI-Systemen ausgehen“. Nur wenige andere Firmen sind in diesem Bereich tätig, darunter FAR.AI, AVERI und Apollo Research.

Trump und Sacks kontern

Trump, der im Juni eine Executive Order unterzeichnet hatte, in der er KI-Unternehmen aufforderte, ihre Modelle freiwillig vor der Veröffentlichung der Regierung zu unterbreiten, widerspricht jeder bundesweiten Regulierung entschieden. Die Trump-Administration hat die Haltung eingenommen, dass alles, was die KI-Entwicklung in den USA behindert, dem Hauptgegner China zugutekommt.

Trumps ehemaliger KI-Zar David Sacks, ein Venture-Capital-Investor mit Beteiligungen an KI-Startups, kritisierte Amodeis Initiative als „regulatory capture“-Kampagne. In einem Beitrag am Wochenende sagte Sacks, die beiden führenden Modellentwickler sollten sich selbst polizeilich kontrollieren, anstatt die Regierung darum zu bitten.

Die Gefahr politischer Vergeltung

Jessica Ji, leitende Forschungsanalystin am Center for Security and Emerging Technology der Georgetown University, wies darauf hin, dass Trump im Privatsektor bereits gezeigt habe, dass er bereit sei, Unternehmen zu schaden, die eine klare Position gegen ihn beziehen. Anthropic hat solche Behandlung bereits erfahren: Das Unternehmen wurde Anfang des Jahres vom US-Verteidigungsministerium auf eine schwarze Liste gesetzt und im Juni von der Regierung angewiesen, den Zugriff auf zwei Modelle zu deaktivieren, um einer Exportkontrollrichtlinie nachzukommen.

Skepsis gegenüber freiwilliger Selbstregulierung

Tom Wheeler, ehemaliger Vorsitzender der Federal Communications Commission (FCC) und jetzt Visiting Fellow an der Brookings Institution, sagte, die Unternehmen könnten nicht dafür verantwortlich sein, sich selbst effektiv zu regulieren. Von der Medien- und Telekommunikationsbranche bis hin zu Lebensmitteln, Autos, Pharmazeutika und Finanzdienstleistungen unterliege praktisch jede große US-Branche strengeren bundesweiten Kontrollen. Die KI, die die US-Wirtschaft antreibt, sei hier die deutliche Ausnahme und werde größtenteils auf Staatenebene reguliert.

So unterzeichnete der Gouverneur von Kalifornien, Gavin Newsom, kürzlich mehrere KI-Gesetze, darunter das „Adam’s Law“, das KI-Chatbot-Hersteller verpflichtet, Minderjährige vor schädlichen Interaktionen zu schützen.

Das Gefangenendilemma der KI-Entwicklung

Eine große Herausforderung, die gesamte Branche hinter Amodeis Vorschlag zu vereinen, ist die Angst, dass ein anderes Unternehmen Vorteil daraus ziehen könnte, wenn ein Unternehmen seine KI-Entwicklung verlangsamt, sagte Sandeep Johri, CEO des Cybersicherheitsunternehmens Checkmarx. Dies sei eine besondere Sorge, wenn man Unternehmen außerhalb der USA betrachtet, in einer Welt ohne definierte Regeln.

Drittanbieter-Überprüfungen könnten funktionieren, sagte Johri, wenn es sich um Projekte wie OpenAIs Daybreak oder Anthropics Glasswing handelt, die es einigen Unternehmen ermöglichten, Zugang zu den Technologien zu erhalten, sie zu testen und Feedback zu geben. Partner „können helfen, die Verteidigungslinien zu stärken, bevor Fähigkeiten allgemein verfügbar gemacht werden“, so Johri. Allerdings betreffen diese Bemühungen nur Cybersicherheit und Software, und jede potenzielle Initiative im Zusammenhang mit KI-Sicherheit benötige eine breitere Palette von Sachverständigen.

Kritik aus der Zivilgesellschaft

Amba Kak, Co-Geschäftsführerin des AI Now Institute, sagte, die KI-Branche benötige dringend „durchsetzbare staatliche Regulierung“, um Schäden zu verhindern und Sicherheitsstandards in den Sektoren sicherzustellen, in denen die Technologie verkauft wird. Drittanbieter-Prüfer seien kein ausreichender Ersatz für unabhängige staatliche Aufsicht.

Timnit Gebru, Gründerin des Distributed AI Research Institute (DAIR), entgegnete, es gelte bereits heute eine Fülle von Gesetzen für KI, und die Behauptungen der Unternehmen bezüglich existenzieller Risiken seien übertrieben. Die Debatte um die richtige Regulierung von Künstlicher Intelligenz bleibt damit hochgradig kontrovers – und die Zeit drängt.