KI-Warnungen: Politiker fordern mehr Regulierung und Kontrolle

Die Warnungen vor den Gefahren Künstlicher Intelligenz werden immer lauter – und sie kommen zunehmend aus der Branche selbst. Erst kürzlich informierte der ChatGPT-Entwickler OpenAI über neue Zwischenfälle mit seinen Systemen. Noch deutlicher wurde Dario Amodei, Gründer des KI-Unternehmens Anthropic: Er warnte davor, dass KI bereits in sechs bis zwölf Monaten das gesamte Internet kontrollieren könnte. Für Anleger stellt sich damit die Frage, wie sich regulatorische Eingriffe auf die hochbewerteten Tech-Werte auswirken könnten.

Politiker fordern strengere Regeln

Der CDU-Europaabgeordnete Axel Voss, einer der profiliertesten deutschen Digitalpolitiker in Brüssel, nimmt die Bedenken ernst. Neben den Chancen sieht er "ernsthafte Risiken", die zu Kontrollverlusten führen könnten. KI-Systeme könnten "Ziele auf unerwartete Weise verfolgen", warnte Voss im Gespräch mit NDR Info. "Ob das Sicherheitsvorkehrungen sind oder auch Finanztransaktionen – alles kann davon betroffen sein."

Voss plädiert für eine umsichtige Regulierung: "Wir müssen umsichtig regulieren. Ich glaube aber auch, dass wir bestimmte Möglichkeiten haben, um in die Kontrolle von Algorithmen reinzugehen oder Haftungsfragen auszulösen." Damit könne man Unternehmen zwingen, vorsichtiger zu agieren. Allerdings sei Regulierung im Moment sehr schwierig, weshalb man zusätzliche Instrumente für die Überwachung brauche.

Positiv sieht Voss, dass es bereits Firmen gibt, die KI entwickeln, um andere KI-Systeme zu überprüfen. "Nicht jede KI kann die Leistung erbringen, um auszuarten", sagte er. Man müsse Grenzen setzen, dann lasse sich KI beherrschbar machen. "Also es gibt durchaus Möglichkeiten. Man muss nur den politischen Willen haben, strikter vorzugehen."

Deutschland setzt auf KI-Überwachung

Das Bundesdigitalministerium dämpfte jedoch die Erwartungen an einfache Lösungen. Thomas Jarzombek, parlamentarischer Staatssekretär im Bundesdigitalministerium (CDU), machte im rbb24 Inforadio deutlich: "Sollte es in den USA eine Super-Intelligenz geben, die das ganze Internet übernimmt, wie schon gewarnt wurde, dann wird sicherlich kein europäisches Gesetz das tatsächlich irgendwie ändern können oder diese Super-Intelligenz abhalten."

Bundesdigitalminister Carsten Wildberger (CDU) setze sich daher für eine internationale Überwachung und Regulierung ein. Ein konkreter Schritt: Gemeinsam mit Kanada investierte Deutschland jeweils 100 Millionen Euro in das Unternehmen Law Zero. Dieses entwickelt eine KI, die andere KI-Systeme überwachen soll – mit eingebauten Werten und Moralvorstellungen, die die Einhaltung von Regeln sicherstellen sollen. "Das ist ein konkreter deutscher Beitrag gegen die Bedrohung durch KI", betonte Jarzombek.

CCC sieht andere Gefahren

Der Chaos Computer Club (CCC) bewertet die Risiken anders. Eine unmittelbar bevorstehende Maschinenherrschaft sieht der CCC nicht als größte Gefahr. Problematisch sei vielmehr, dass Menschen Verantwortung an Systeme abgäben, deren Ergebnisse sie weder verstünden noch zuverlässig kontrollieren könnten, erklärte Jochim Selzer vom CCC der Nachrichtenagentur epd.

"Die Herrschaft der Maschinen hat schon vor Jahrzehnten begonnen. Sie geschah ganz ohne großen Knall, ganz leise, und wir Menschen haben uns ohne jeden Kampf unterworfen." Selzer warnte davor, die aktuellen dramatischen Warnungen der KI-Unternehmen einfach zu übernehmen.

König Charles III. und die Tech-Elite melden sich zu Wort

In die Debatte schaltete sich auch der britische König Charles III. ein. Die Technologie müsse "im Dienst der Menschheit" bleiben, hieß es in einer vorab veröffentlichten Rede des Monarchen. Aufgabe der KI-Konzerne sei nicht nur, "die Technologie voranzubringen, sondern auch dafür zu sorgen, dass sie fest im Dienste der Menschheit, der Gemeinschaften und der Natur steht".

Anthropic-Chef Amodei hatte am Wochenende dazu aufgerufen, die KI-Entwicklung weltweit zu drosseln. Unterstützung bekam er von mehreren Konkurrenten – darunter OpenAI-Chef Sam Altman, Tech-Unternehmer Elon Musk (hinter dem KI-Assistenten Grok), <a class="tvreplink" target="_blank" href="https://de.tradingview.com/symbols/Nasdaq%3AMSFT">Microsoft-Chef Satya Nadella sowie DeepMind-Chef Demis Hassabis. Eine klare Gegenposition beziehen US-Präsident Donald Trump und Meta-Chef Mark Zuckerberg, die ein Drosseln der Entwicklung ablehnen.

Für Anleger an den internationalen Börsen ist die Entwicklung von großer Bedeutung. Die Aktienkurse von Microsoft, Meta und anderen Tech-Giganten hängen maßgeblich vom KI-Wachstum ab. Sollte es zu strengeren Regulierungen oder gar einem Entwicklungsstopp kommen, könnten die hochbewerteten KI-Aktien unter Druck geraten. Gleichzeitig eröffnen sich mit Unternehmen wie Law Zero neue Anlagemöglichkeiten im Bereich der KI-Überwachung und -Sicherheit.