Was hinter Trumps KI-Abkommen mit Silicon Valley steckt
Sechs führende KI-Unternehmen unterzeichnen ein freiwilliges Selbstregulierungs-Dokument – doch Kritiker bezweifeln die Durchsetzungskraft.
Nach einem zweistündigen Mittagessen mit den Chefs der KI-Branche aus dem Silicon Valley verließ Donald Trump das Weiße Haus und präsentierte ein freiwilliges „Abkommen“ zwischen sechs führenden Unternehmen zur „Selbstregulierung“ der Technologie. Der Präsident sagte Reportern, das zweiseitige Dokument – improvisiert im East Room erstellt und mit einem Rechtschreibfehler behaftet – sei „fast wie eine Verfassung“ und stelle eine „Form des Schutzes“ gegen die Risiken dar, die von KI ausgehen.
Die Vereinbarung steht in starkem Kontrast zu den Schutzmechanismen (Guardrails), die KI-Manager wie Anthropic-Chef Dario Amodei gefordert haben, oder zu einer globalen Governance der Branche, auf die Weltführer im Vorfeld der jüngsten UNO-Sitzung gehofft hatten. Das Dokument wurde zu einem Zeitpunkt vorgelegt, an dem die Technologie in letzter Zeit für eine Reihe alarmierender Hacks verantwortlich gemacht wurde.
Was das Dokument konkret vorsieht
Das freiwillige Abkommen skizziert kurz „Schichten von Kontrollen und Audits“, die die sechs Unterzeichner – Anthropic, OpenAI, Google, Meta, xAI und Nvidia – implementieren sollten. Dazu gehören „robuste interne Kontrollen“, um Cybersecurity- und Biosicherheitsbedrohungen durch fortschrittliche Modelle zu überwachen und sicherzustellen, dass diese Systeme nicht auf „unbeabsichtigte Weise“ gehackt werden.
Das Dokument verpflichtet die Unternehmen zudem zur „Partnerschaft“ mit einem unabhängigen externen Prüfer, der bewertet, ob diese Kontrollen wirksam sind, und zur individuellen Ernennung eines „unabhängigen Ausschusses des Verwaltungsrats“ zur Überwachung des Prozesses.
Der praktische Zusatznutzen dürfte jedoch begrenzt sein. Führende Labore wie Anthropic, OpenAI und Google DeepMind führen bereits vor der Veröffentlichung Capability-Assessments für fortschrittliche Modelle durch, und alle außer Nvidia hatten sich nach dem KI-Gipfel 2024 in Seoul ähnlichen Verpflichtungen angeschlossen.
„Auf einer emotionalen Ebene ist es am bedeutendsten“, sagte Mackenzie Arnold, Managing Director of US Law & Policy bei LawAI. „Es wird keiner Behörde die Autorität übertragen, tatsächlich Standards mit Durchsetzungskraft einzuführen.“
Während Anthropic und OpenAI bereits vereinbart haben, unabhängigen Bewertern Zugang zu ihrer Arbeit zu gewähren, könnte das Dokument andere Unterzeichner dazu zwingen, gleichzuziehen. Es ist allerdings unwahrscheinlich, dass es sofort Einigkeit darüber gibt, welchen Bewertern vertraut werden soll. Der ehemalige KI-Tsar des Weißen Hauses, David Sacks, der in der Trump-Administration weiterhin Einfluss hat, hat die Unabhängigkeit von Organisationen wie METR, einer gemeinnützigen Organisation, die KI-Risiken bewertet, in Frage gestellt.
Rechtlich bindend oder nur moralisch?
Nicht im traditionellen Sinne – wie Trump selbst einräumte, der das Dokument als „moralisch bindend“ bezeichnete. Kritiker der Big-Tech-Unternehmen verspotteten die Vereinbarung als bedeutungslos; Sacha Haworth vom Tech Oversight Project sagte, sie ermögliche Chief Executives, „ihre eigenen Hausaufgaben zu benoten und meaningful AI safety guardrails zu umgehen“.
Einige Anwälte glauben jedoch, dass sie die Tür für eine anschließende rechtliche Herausforderung durch Regulierungsbehörden offen lässt, wenn die Unterzeichner ihren eigenen Verpflichtungen nicht nachkommen. „Man kann keine öffentliche Erklärung abgeben, in der man sagt, man werde etwas tun, und dann materiell nicht daran festhalten“, sagte Joel Thayer, ein konservativer Anwalt, der auch das America First Policy Institute berät. „Das ist für Verbraucher inhärent irreführend.“
Thayer verwies auf die Anwesenheit von FTC-Vorsitzendem Andrew Ferguson, der zuvor angedeutet hatte, dass Unternehmen für die Handlungen ihrer KI-Agenten haftbar gemacht werden könnten, beim Mittagessen am Dienstag. „Diese öffentlichkeitswirksamen Versprechen … das stinkt förmlich nach einer Durchsetzung seitens der FTC.“ Die Federal Trade Commission (FTC) hat am Mittwoch eine bestehende Untersuchung zu KI-Unternehmen ausgeweitet und befragt Anthropic, OpenAI und andere Labore zu den Risiken, die ihre Technologie birgt.
Hoffnung auf strengere Standards
Sicherheitsbefürworter hoffen, dass das Abkommen ein Ausgangspunkt für strengere Branchenstandards ist. Nach dem Treffen am Dienstag sagte Anthropics Amodei, der Mechanismus zur Behandlung von Risiken „werde noch diskutiert“, während Demis Hassabis, der einen globalen KI-Wachhund gefordert hat, erklärte, seine Kollegen bei Google DeepMind „freuen sich darauf, den Verpflichtungen nachzufolgen“.
Im Gegensatz zu früheren Äußerungen des Weißen Hauses – und seinen Versuchen, staatliche Regulierungen zu unterbinden – schließt das Dokument weitere Gesetzgebungsinitiativen nicht aus und stellt fest, dass „im Laufe der Zeit der Schritt sinnvoll sein könnte, diese Maßnahmen in Gesetze oder Vorschriften zu kodifizieren“.
Einige KI-Unternehmen haben jedoch bereits davor gewarnt, dass eine stärkere Zusammenarbeit im Bereich der Sicherheit sie anfällig für Kartellklagen machen könnte, was weiteren Fortschritt behindern könnte. „Es herrscht große Besorgnis“, sagte Arnold. Er fügte jedoch hinzu, dass „solche reziproken Vereinbarungen wirklich nützlich sein können“, die Unternehmen dazu motivieren könnten, mehr zu tun.
Für deutsche Anleger und Beobachter der Tech-Branche bleibt die zentrale Frage, ob aus dem freiwilligen Papier tatsächlich verbindliche Regeln entstehen. Die sechs Unterzeichner gehören zu den größten Unternehmen der Welt – ihre Zusagen dürften damit auch die europäische Debatte um KI-Regulierung und Haftungsfragen beeinflussen.