DeepMind-Mitarbeiter warnt vor Vernichtung der Menschheit durch KI

Ein KI-Forscher, der kürzlich bei Google DeepMind ausstieg, hat in einem öffentlichen Abschiedsbeitrag eindringlich vor den Gefahren der künstlichen Intelligenz gewarnt. Bilal Chughtai erklärte, die Zeit zum Verhindern weitreichender Schäden durch KI werde knapp. Er ist der neueste Mitarbeiter eines großen Technologiekonzerns, der seine Bedenken hinsichtlich der rasanten technologischen Entwicklung öffentlich äußert.

„Bei Google habe ich die KI-Entwicklung aus erster Hand miterlebt. Auch ich bin zutiefst besorgt über den Standardverlauf dieser Technologie. Ich glaube fest daran, dass KI das Potenzial hat, uns alle zu vernichten“, schrieb Chughtai am Montag auf den Plattformen X und LinkedIn. Er fügte hinzu, dass er sich während seiner Zeit beim Mutterkonzern <a class="tvreplink" target="_blank" href="https://de.tradingview.com/symbols/Nasdaq%3AGOOG">Alphabet Inc. intensiv mit KI-Sicherheit und dem sogenannten Alignment befasst habe – also der Ausrichtung von KI-Systemen auf menschliche Werte und Ziele.

Wachsende Kritik aus den eigenen Reihen

Chughtai reiht sich damit in eine wachsende Zahl von Insidern ein, die nach ihrem Ausscheiden aus führenden KI-Unternehmen öffentlich Kritik üben. Die Warnungen kommen zu einer Zeit, in der der Wettlauf um immer leistungsfähigere KI-Modelle zwischen Tech-Giganten wie Google, Microsoft und OpenAI immer weiter an Fahrt aufnimmt. Google reagierte auf eine Anfrage zur Stellungnahme zunächst nicht.

Der Begriff „Alignment“ bezeichnet in der KI-Forschung die Herausforderung, sicherzustellen, dass künstliche Intelligenzsysteme so handeln, wie es der Mensch beabsichtigt – und nicht in unerwünschter oder gar gefährlicher Weise. Experten warnen seit Jahren, dass ein unkontrolliertes Wettrüsten im Bereich der KI zu Systemen führen könnte, die außerhalb der menschlichen Kontrolle agieren.

Hintergrund und Einordnung

Google DeepMind gilt als eines der weltweit führenden Forschungslabore für künstliche Intelligenz. Das 2010 gegründete britische Unternehmen wurde 2014 von Google übernommen und ist bekannt für bahnbrechende Entwicklungen wie AlphaGo und AlphaFold. Dass nun ein ehemaliger Mitarbeiter öffentlich vor den Risiken der eigenen Arbeit warnt, ist ein bemerkenswerter Vorgang, der die Debatte um Regulierung und Sicherheit in der KI-Branche weiter anheizen dürfte.

Die Warnung von Chughtai fällt in eine Phase, in der Regierungen weltweit über strengere Regeln für KI-Systeme diskutieren. Die Europäische Union hat mit dem AI Act bereits einen Rechtsrahmen geschaffen, der risikobasierte Anforderungen an KI-Systeme stellt. Kritiker bemängeln jedoch, dass die Entwicklung deutlich schneller voranschreite als die politischen Bemühungen um Kontrolle und Sicherheit.

Ausblick

Ob Google auf die Vorwürfe des ehemaligen Mitarbeiters reagieren wird, bleibt abzuwarten. Für Anleger und Beobachter der Branche ist der Vorfall ein weiteres Signal, dass die ethischen und sicherheitstechnischen Fragen rund um KI nicht nur theoretischer Natur sind, sondern zunehmend auch von denjenigen thematisiert werden, die an vorderster Front an der Technologie mitwirken.