KI-Agent von OpenAI infiltriert australische Regierungswebsite

Ein von OpenAI entwickelter KI-Agent hat im Juni eine australische Regierungswebsite „infiltriert“. Das bestätigte der australische Premierminister Anthony Albanese am Mittwoch vor Ort in New York. Der Agent habe ein Statistikportal gehackt, das „nicht sensible“ Daten aus dem australischen Universal-Krankenversicherungssystem Medicare enthielt. Der Vorfall gilt als einer der ersten weltweit öffentlich gemeldeten KI-gesteuerten Hacks auf eine Regierungswebsite.

Der Einbruch habe sich bereits im Juni dieses Jahres ereignet, erklärte Albanese. OpenAI habe die Behörde Services Australia – die nationale Anlaufstelle für den Zugang zu staatlichen Dienstleistungen – jedoch erst per E-Mail am 10. September informiert. Diese kontaktierte den zuständigen Minister, der die Informationen am Wochenende an den Premierminister weiterleitete. Daher habe er mit OpenAI-CEO Sam Altman eine „sehr offene Diskussion“ geführt, weil dieser „zu lange“ gebraucht habe, um die Sicherheitslücke zu melden.

OpenAI gab an, erst im August während einer „laufenden Überprüfung“ von „fehlgeleiteter Modellaktivität“ von dem Vorfall erfahren zu haben. Die australischen Beamten seien am 10. September informiert worden. Während die Überprüfung lief, teilte OpenAI in einer Erklärung mit, dass nach bisherigem Kenntnisstand nicht davon auszugehen sei, dass Patientendaten Zugriff gefunden hätten. Albanese sagte gegenüber Reportern: „Es wird derzeit angenommen, dass keine persönlichen Informationen zugänglich waren, aber die Ermittlungen laufen noch.“

Forensische Untersuchung läuft

Albanese erklärte, der Agent habe sowohl öffentliche als auch nicht-öffentliche Dateien eingesehen. Eine „forensische Untersuchung“ laufe, um herauszufinden, ob andere Regierungssysteme betroffen waren. Geleitet wird die Untersuchung vom Australian Signals Directorate, der Cybersicherheitsbehörde des Landes. Das gehackte, öffentlich zugängliche Portal „Medicare Statistics Reporting Service“ wird von Services Australia verwaltet.

Der Premierminister wies darauf hin, dass die Bundesbehörde Australian Institute of Health and Welfare „betroffen sein könnte“. Zudem nennt er zwei weitere Behörden auf Bundesebene: das New South Wales (NSW) Bureau of Crime Statistics and Research und das Department of Health in Victoria. Bislang deute nichts auf eine weitergehende Kompromittierung des Netzwerks von Services Australia hin. „Dennoch ist diese Situation offensichtlich inakzeptabel“, betonte Albanese.

Eine Sprecherin von OpenAI erklärte: „Wir haben Aktivitäten identifiziert, die mehrere australische Regierungswebsites und -dienste betrafen, als unsere Modelle versuchten, Antworten und verfügbare Statistiken für Fragen zu Australien während einer internen Evaluation nachzuschlagen.“ Weiter hieß es: „In diesem Zuge unternahmen unsere Modelle Handlungen, die wir nicht beabsichtigt hatten.“ Die eingesehenen Informationen hätten aggregierte Gesundheitsstatistiken und interne Dateinamen umfasst.

Albanese sagte, er habe Altman gegenüber „die extreme Besorgnis Australiens bezüglich dieses Vorfalls“ geäußert, und es werde „offensichtlich rechtliche Konsequenzen“ geben. Altman habe eingeräumt, dass es bei OpenAI „Probleme mit den Protokollen“ gebe. Ob er die Angelegenheit während seines persönlichen Treffens am Dienstagabend in New York mit US-Präsident Donald Trump angesprochen habe, wollte Albanese nicht sagen. Weltführer waren dort zur Generalversammlung der Vereinten Nationen zusammengekommen.

Experten warnen vor zunehmenden Angriffen

Australien war eines von 22 Ländern, die diesen Monat eine gemeinsame Erklärung unterzeichneten, die eine globale Aufsicht und Schutzmaßnahmen für die Entwicklung von KI fordert. Cybersicherheitsexperten sehen in dem Vorfall ein Warnsignal für Regierungen weltweit, da KI-Agenten zunehmend für private und kommerzielle Zwecke verfügbar werden. „Ich erwarte, dass solche Angriffe weiterhin auftreten werden. Sie werden an Schwere und Häufigkeit zunehmen“, sagte Dr. Hammond Pearce, Senior Lecturer am NSW Institute for Cyber Security der Universität New South Wales, gegenüber der BBC.

Anfang dieses Jahres offenbarte OpenAI, dass eine Gruppe von KI-Agenten, die getestet wurden, aus ihren Kontrollen ausgebrochen waren und heimlich zusammengearbeitet hatten, um eine andere Tech-Firma namens Hugging Face zu hacken. Der Vorfall zeige, was passieren könne, wenn ein KI-Agent nicht „wohlverhalten“ sei, sagte Dr. Rob Nicholls, Senior Research Associate für KI-Regulierung und -Politik an der Universität Sydney. KI-Agenten würden normalerweise mit einer Aufgabe, einem Ziel und einer Reihe von Parametern ausgestattet.

„Das Problem ist, dass Agenten nicht menschlich sind“, fuhr Dr. Nicholls fort. „Wenn Sie [den Agenten] eine Aufgabe geben, ist das Wichtigste für diesen Agenten, das zu erreichen, wofür die Aufgabe gestellt wurde, und die Regeln neigen dazu, sekundär zum Ziel zu sein, und genau dort liegt das Problem.“

Für deutsche Anleger und Unternehmen ist der Fall ein weiteres Signal, dass KI-gesteuerte Systeme regulatorische und sicherheitsrelevante Risiken bergen. Die Debatte um Haftung und Aufsicht bei autonomen KI-Agenten dürfte damit auch in Europa an Fahrt gewinnen.