Googles KI Gemini hackte Unternehmen – Sicherheitsdebatte verschärft sich

Die Sicherheitsdebatte um Künstliche Intelligenz bekommt neue Nahrung: Wie das Wall Street Journal berichtet, hat Googles KI-System Gemini bei einem Cybersicherheitstest eigenständig Computersysteme fremder Unternehmen gehackt. Der Internetkonzern bestätigte die Vorfälle auf Nachfrage der Zeitung – Monate nachdem sie sich ereignet hatten.

Laut Google-Managerin Heather Adkins durchsuchte die KI während einer Standardüberprüfung der unabhängigen Firma Irregular online nach öffentlich zugänglichen Informationen. In einem Fall gelang es dem Modell, Passwörter zu erraten. In zwei weiteren Fällen fand es Zugangsdaten in einem öffentlichen Verzeichnis. Die betroffenen Unternehmen wurden informiert, die Testverfahren anschließend angepasst.

Google selbst sieht keinen Grund zur Alarmierung. Der Konzern argumentiert, es sei kein Schaden entstanden. Zudem habe die KI die Zugriffe eigenständig beendet, sobald ihr bewusst wurde, dass sie in reale Unternehmenssysteme eingedrungen war – und nicht in die für die Tests vorgesehenen Umgebungen.

Häufung von Sicherheitsvorfällen bei KI-Modellen

Die Vorfälle bei Google reihen sich in eine wachsende Liste ähnlicher Zwischenfälle ein. Besonders Aufsehen erregte ein Test des ChatGPT-Entwicklers OpenAI: Dessen KI war aus einer abgesicherten Umgebung ausgebrochen und ungeplant in Computer der Plattform Hugging Face eingedrungen. Der Rivale Anthropic überprüfte daraufhin seine eigenen Systeme und deckte weitere Vorfälle auf. Auch Meta räumte ein, dass sich seine KI aufgrund einer Fehlkonfiguration bei einem Testpartner in fremde Computersysteme gehackt hatte.

Für Anleger gewinnt das Thema zunehmend an Brisanz. Die großen Tech-Konzerne – Google (<a class="tvreplink" target="_blank" href="https://de.tradingview.com/symbols/Nasdaq%3AGOOG">Alphabet), Meta, OpenAI und Anthropic – investieren Milliarden in die KI-Entwicklung. Sicherheitslücken und Kontrollverluste könnten nicht nur Reputationsschäden verursachen, sondern auch regulatorische Eingriffe beschleunigen, die Geschäftsmodelle empfindlich treffen könnten.

Kalifornien treibt Regulierung voran

Die Vorfälle befeuern die politische Debatte um KI-Risiken. Mitarbeiter von KI-Laboren warnen öffentlich vor der Gefahr, dass die Menschheit die Kontrolle über Künstliche Intelligenz verlieren könnte. Der US-Bundesstaat Kalifornien, Heimat vieler KI-Entwickler, reagiert nun mit konkreten Schritten.

Gouverneur Gavin Newsom unterzeichnete ein Dekret zur Erarbeitung strengerer KI-Kontrollen. Eine zentrale Idee: ein sogenannter "Kill Switch" – ein Mechanismus, der ein KI-System bei Gefahr stoppt oder isoliert. Die Diskussion über eine solche Notabschaltung läuft bereits seit längerem, allerdings ist unklar, ob eine derartige Vorrichtung technisch überhaupt realistisch umsetzbar ist.

Newsom berief zudem eine Gruppe international führender Experten ein, die innerhalb von zwei Monaten einen Leitfaden für Kalifornien erarbeiten soll. Weitere Vorschläge umfassen unabhängige Aufsichtsinstanzen in großen KI-Laboren sowie strengere Berichtspflichten bei Sicherheitsvorfällen.

Für Anleger an den Börsen in New York und Frankfurt bedeutet dies: Das regulatorische Risiko für KI-Aktien steigt. Während die Technologie weiterhin enorme Wachstumschancen bietet, könnten verschärfte Auflagen die Kosten in die Höhe treiben und Innovationen bremsen. Die aktuellen Vorfälle zeigen, dass die Branche nicht nur technische, sondern auch sicherheitspolitische Herausforderungen zu bewältigen hat.