DeepMind-Mitbegründer warnt: KI-Sicherheit darf nicht zurückfallen

Shane Legg, Mitbegründer von Google DeepMind, hat eine eindringliche Warnung an die KI-Branche ausgesprochen: Die rasant voranschreitende Entwicklung künstlicher Intelligenz dürfe niemals der Sicherheit vorauslaufen. In einem Interview mit der Financial Times betonte der Chief AGI Scientist von Google DeepMind, dass die aktuellen Fortschritte zwar beeindruckend seien, aber nicht auf Kosten der Sicherheit gehen dürften.

„Wir leben derzeit in einer Phase, in der sich die Fähigkeiten sehr, sehr schnell entwickeln“, sagte Legg. „Aber wir dürfen nicht zulassen, dass die Fähigkeiten der Sicherheit voraus sind.“ Die Aussage fällt in eine Zeit wachsender Forderungen nach einer Verlangsamung der Entwicklung von sogenannten Frontier-Modellen – den leistungsfähigsten KI-Systemen an der Spitze der Forschung.

Debatte um Verlangsamung von KI-Veröffentlichungen

Legg äußerte sich auch zu dem jüngsten Essay von Anthropic-Chef Dario Amodei, der zu einer Verlangsamung, aber nicht zu einem vollständigen Stopp der Veröffentlichung von Frontier-Modellen aufruft. Legg bezeichnete den Vorstoß als „interessante richtungsweisende Entwicklung“ und „erwägenswert“. Allerdings zeigte er sich zurückhaltend: „Aber wir müssen die Details dessen wirklich durcharbeiten und prüfen, wie das in der Praxis funktionieren würde“, fügte er hinzu.

Die Kommentare fallen in eine entscheidende Phase für das Unternehmen. Erst kürzlich wurde das DeepMind Institute gegründet, das die Implikationen einer allgemeinen künstlichen Intelligenz (Artificial General Intelligence, AGI) erforschen soll. Google DeepMind definiert AGI als ein System, das alle kognitiven Fähigkeiten des menschlichen Gehirns aufweist.

Ist AGI bereits erreicht? Legg widerspricht

Trotz jüngster Behauptungen von Führungskräften bei Nvidia und OpenAI hält Legg die Erklärung, dass AGI bereits erreicht sei, für verfrüht. Greg Brockman, Präsident von OpenAI, hatte den Start des neuesten GPT-6 Astra-Modells mit den Worten kommentiert, „dass wir uns jetzt im Zeitalter der AGI befinden“. Auch Jensen Huang, CEO von Nvidia, erklärte mit Blick auf Astra: „AGI ist angekommen.“

Legg zeigte sich skeptisch. Angesichts der unterschiedlichen Charakterisierungen von AGI sei nicht einmal klar, ob Astra die eigene Definition des Begriffs durch OpenAI erfülle: die Fähigkeit, die meisten wirtschaftlich wertvollen kognitiven Arbeiten auszuführen. „Offensichtlich leisten sie einige ziemlich unglaubliche Dinge, aber es ist noch nicht so weit, dass ich denke, dass es sogar ihre eigene Definition erfüllen kann“, sagte Legg.

Der Forscher bleibt bei seiner langjährigen Prognose, wonach eine 50-prozentige Chance bestehe, bis 2028 eine „minimale“ AGI zu erreichen. Legg ist derzeit Chief AGI Scientist bei Google DeepMind. Sir Demis Hassabis trat letzten Monat als CEO des von Google owned KI-Labors zurück, um Vorsitzender des Verwaltungsrats zu werden. Der dritte Mitbegründer, Mustafa Suleyman, ist nun Senior Executive bei <a class="tvreplink" target="_blank" href="https://de.tradingview.com/symbols/Nasdaq%3AMSFT">Microsoft.

Neues Institut soll öffentliche Debatte anheben

Das neu gegründete DeepMind Institute, dessen Direktoren neben Legg auch Hassabis und James Manyika, Senior Vice President bei Google, sind, soll die Debatte über AGI auf eine breitere Basis stellen. „Die öffentliche Diskussion entzündet sich gerade erst. Und die Menschen nehmen die Möglichkeit einer leistungsstarken allgemeinen Intelligenz sehr, sehr ernst“, sagte Legg. „Es scheint also wirklich der richtige Moment zu sein, um eine breitere öffentliche Diskussion über viele dieser faszinierenden Themen zu beginnen.“

Das Institut werde eine breite Palette von Themen im Zusammenhang mit AGI abdecken, darunter Wissenschaft, Bildung, Gesellschaft, Politik, Philosophie und menschliches Wohlergehen. Viele der Essays würden von Google-Mitarbeitern verfasst, einige jedoch von externen Experten beigetragen, um eine Vielfalt der Debatte zu fördern. Anfangs werden drei Essays über KI-Sicherheit, Wirtschaftspolitik und Prinzipien eines „neuen Utopismus“ veröffentlicht.

Kritik an mangelnder Transparenz bei OpenAI

Ein Essay über sogenannte „Chain-of-Thought“-Reasoning-Modelle, verfasst von den DeepMind-Forschern Rohin Shah und Anca Dragan, übte scharfe Kritik an der schnellen Veröffentlichung von OpenAIs GPT-6 Astra-Modell. Die Autoren sahen darin einen „besorgniserregenden Abwärtstrend“ bei der Transparenz. Wettbewerbsdruck gefährde die Transparenz durch unzureichende Anreize, schrieben sie, und schlugen vor, dass Regulierung helfen könnte.

Gleichzeitig argumentierten die Forscher, dass robustere Modelle entwickelt werden könnten, solange die Transparenzarchitektur in ihr Design integriert werde. „Für all die Wege, auf denen wir KI-Systeme immer noch nicht verstehen, sollten wir nicht übersehen, wie glücklich wir darüber sind, dass die besten Reasoning-Modelle heute laut denken, auf eine Weise, die Menschen verstehen können“, schrieben sie.

James Manyika brachte die Position von Google auf den Punkt: Der einzige KI-Wettlauf, an dem Google teilnehmen wolle, sei „der Wettlauf, es richtig zu machen“. Die Botschaft ist klar: In der hitzigen Debatte um Tempo und Sicherheit in der KI-Entwicklung setzt Google DeepMind auf Besonnenheit und gründliche wissenschaftliche Arbeit – auch wenn der Wettbewerbsdruck enorm ist.