KI-CEOs bestimmen Diskurs – Politik sollte nicht fragen, sondern handeln

Die Alarme, die Chief Executives von KI-Unternehmen angesichts der Produkte aussenden, die sie hastig auf den Markt gebracht haben, stellen eine bemerkenswerte Eingeständnis des Versagens dar. Gleichzeitig offenbaren sie ein spektakuläres Versagen der Unternehmensführung. Warum bitten globale Politiker dieselben CEOs daher um Lösungsansätze, während sie darüber debattieren, ob ihre Technologie die Menschheit ins Verderben gestürzt hat?

Diese Frage stellt ein Fellow am Institut für menschenzentrierte künstliche Intelligenz der Stanford University und Autor des Buches „The Tech Coup“. In einem Gastbeitrag für die Financial Times kritisiert er scharf, dass sich politische Entscheidungsträger von denselben Wirtschaftsführern beraten lassen, deren Unternehmen die Risiken erst geschaffen haben.

Wieder einmal erlauben wir es Führungskräften aus der Wirtschaft, den Diskurs zu bestimmen, und fragen sie gleichzeitig, was dagegen getan werden sollte. Selbst die Präsidentin der Europäischen Kommission, Ursula von der Leyen, lud in ihrer jüngsten Rede zur Lage der Union KI-Chefs ein, über „wie man das Frontier-Pacing gestaltet“ und „laufende Branchenbemühungen unterstützt“ zu diskutieren.

Europa hat bereits ein Regelwerk – es muss nur durchgesetzt werden

Diese Annäherung sendet zum falschen Zeitpunkt das falsche Signal. Stellen Sie sich vor, man würde Ölkonzerne beauftragen, Klimapolitiken zu entwerfen, oder Automobilhersteller, Verkehrsregeln zu erstellen. Dies ist insbesondere in Europa kurios, wo mit dem EU-KI-Gesetz (EU AI Act) ein umfassendes Regelwerk existiert, dessen Kern die Risikominderung ist.

Anstatt Wirtschaftsleader zu fragen, was die Gesellschaft künftig benötigt, sollten politische Akteure deren Behauptungen besser auf ihre Stresstauglichkeit prüfen. Sie müssen sicherstellen, dass ihre Unternehmen und Produkte zum gesellschaftlichen Gesamterfolg beitragen. Wo waren die Gesetzgeber, als Rechenzentren ohne Transparenz bezüglich Eigentumsverhältnissen, Ressourcenbedarf oder Auswirkungen auf lokale Gemeinschaften errichtet wurden?

Wo war die Aufsicht, wenn Sicherheitsbedenken zugunsten eines Wettbewerbsvorteils beiseite geschoben wurden? Das Recht sollte der Anker jeglichen Handelns europäischer Führer sein und bei Bedarf aufgrund technologischer Fortschritte aktualisiert werden.

Das EU-KI-Gesetz als Blaupause für die Welt

Das aktuelle KI-Gesetz sieht bereits Verpflichtungen zur Transparenz, zur Bewertung und Minderung systemischer Risiken sowie die Aufsicht über Modelle für allgemeine Zwecke vor. Dies sind genau jene Grundbausteine, von denen viele Experten hoffen, dass die Regulierung auch an anderen Orten dafür sorgt. Europa sollte keine Gipfeltreffen mit KI-Chefs als Ersatz für die Durchsetzung der bereits bestehenden Regeln arrangieren.

Die konsequentere Durchsetzung bestehender Gesetze ermöglicht unmittelbareres Handeln. Die Gesellschaft benötigt ein weitaus besseres Verständnis dessen, was in KI-Laboren geschieht – von der Experimentierphase bis zur Markteinführung. Nur so können Risikobewertungen vorgenommen, Politiken informiert und neue Modellfreigaben entsprechend dosiert oder sogar gestoppt werden.

Nicht bindende Moratorien, die zwischen den Unternehmen ausgehandelt werden müssten, die sie einhalten sollen, führen uns nicht zu einer besseren Lösung. Tatsächlich führten frühere Aufrufe von KI-Führern nach einer Pause in der Entwicklung von Frontier-Modellen zu keinerlei Verhaltensänderungen.

Ein Governance-Reset ist nötig

Wir benötigen einen umfassenden Governance-Reset, angeführt von demokratischen Führern und Institutionen, um unabhängige Prüfungen und echte Rechenschaftspflicht zu erreichen. Dario Amodei von Anthropic hat eine Koalition von Demokratien gefordert, um die KI-Sicherheit gemeinsam zu regeln. Als Gastgeber führender Frontier-Labs hält die USA den Schlüssel zu einer solchen Koalition.

Wenn amerikanische Unternehmen im Inland zur Verantwortung gezogen werden, wirkt dies wellenförmig weltweit nach. Washington würde seine eigene Version des „Brussels Effect“ erleben: Amerikanische Vorschriften würden zum globalen Standard für KI-Governance, ähnlich wie EU-Vorschriften zum Datenschutz und zur Produktsicherheit Normen weit über die eigenen Grenzen hinaus geprägt haben.

Dieser Effekt tritt jedoch nur dann ein, wenn die Regeln substanziell sind und mit den Werten anderer Demokratien übereinstimmen. Wenn diese globale KI-Governance sehen wollen, sollten Tech-Unternehmen in Washington für verbindliche Vorschriften lobbyieren – eine Kehrtwende von 180 Grad gegenüber dem derzeit eingeschlagenen Ansatz.

Wie konnten wir an einen Punkt gelangen, an dem KI-Unternehmen Investoren und Märkte davon überzeugt haben, dass sie die Zukunft aufbauen werden, uns gleichzeitig aber warnen, dass sie sie zugleich beenden werden? Der Autor des Gastbeitrags fordert, sich stattdessen auf die Stärkung der demokratischen Governance von KI zu konzentrieren. Wir können nicht warten, bis ein weiterer Zwischenfallbericht vor einer Katastrophe warnt. Brandstifter sind keine guten Feuerwehrleute.