KI-Rennen verschärft sich: OpenAI stoppt Kampagne zum Kopieren von Modellen

OpenAI hat nach eigenen Angaben eine koordinierte Kampagne identifiziert und gestoppt, bei der Betreiber versuchten, geschützte Schlussfolgerungen aus seinen KI-Modellen zu extrahieren. Dabei ordnete das Unternehmen einen Kerncluster der Aktivitäten Personen zu, die mit dem chinesischen Startup Moonshot AI in Verbindung stehen – dem Entwickler des Modells Kimi. Die Aktivitäten begannen Anfang Juli und weiteten sich später deutlich aus.

Laut OpenAI stieg die Aktivität innerhalb von zwei Tagen auf 16.000 Anfragen von mehr als 4.000 Nutzern an. Insgesamt identifizierte das Unternehmen verwandte Aktivitäten in einem Cluster von mehr als 15.000 Nutzern. Die Kampagne sei bis zum 28. Juli vollständig unterbrochen worden, teilte OpenAI mit. Moonshot reagierte zunächst nicht auf eine Anfrage von CNBC nach einer Stellungnahme.

Was hinter "adversarial distillation" steckt

OpenAI beschreibt die Vorgänge als "adversarial distillation", also feindselige Destillation. Darunter versteht man die Praxis, die Ausgaben oder Schlussfolgerungen eines KI-Modells zu nutzen, um ein anderes Modell zu trainieren oder zu verbessern. Nach Einschätzung von OpenAI könnte das Extrahieren solcher Schlussfolgerungen Dritten ermöglichen, fortschrittliche Fähigkeiten nachzubilden, ohne dieselben Investitionen in die Entwicklung und Absicherung von Frontier-Modellen zu tätigen. Das berge potenzielle Sicherheitsrisiken sowie Risiken für die nationale Sicherheit.

Wichtig für Nutzer: Die Betreiber hätten nach Angaben des Unternehmens keine Verschlüsselung, keine Datenbanken und keine gespeicherten Nutzerkonversationen kompromittiert. Stattdessen manipulierten sie die Interaktionen mit den Modellen, um verborgene Schlussfolgerungen in einer für den Anfragenden sichtbaren Form nachzubilden. Es geht also nicht um einen klassischen Datendiebstahl, sondern um den gezielten Versuch, Modelle systematisch auszufragen.

Kontext: Anthropic erhebt ähnliche Vorwürfe

Die Erkenntnisse fallen nur wenige Wochen nach Anschuldigungen des OpenAI-Rivalen Anthropic zusammen. Anthropic hatte mehreren chinesischen KI-Entwicklern, darunter Moonshot AI und Alibaba, vorgeworfen, sein Claude-Modell heimlich genutzt zu haben, um eigene KI-Systeme zu trainieren. Der Fall unterstreicht die wachsenden Bedenken US-amerikanischer KI-Unternehmen, dass Rivalen ihre Modelle nutzen könnten, um konkurrierende Technologien schneller und kostengünstiger zu entwickeln.

OpenAI erklärte zugleich, es sei unklar, ob alle beteiligten Betreiber mit einem einzigen Akteur verbunden waren. Eine eindeutige Zuordnung zu einer einzigen Gruppierung lässt sich den Angaben zufolge also nicht treffen. Klar ist jedoch, dass das Unternehmen einen Kerncluster der Aktivitäten mit Personen in Verbindung bringt, die zu Moonshot AI gehören.

Weitergabe an andere Entwickler und Behörden

OpenAI teilte seine Erkenntnisse anderen KI-Entwicklern über das Frontier Model Forum sowie über staatliche Informationskanäle mit. Damit reiht sich der Vorfall in eine Debatte ein, die weit über einzelne Unternehmen hinausgeht: Wer Zugang zu den Fähigkeiten moderner Frontier-Modelle erhält, kann erhebliche Ressourcen bei der eigenen Entwicklung einsparen. Genau darin liegt aus Sicht von OpenAI das zentrale Risiko, weil der Aufwand für Entwicklung und Absicherung umgangen werden könnte.

Für deutsche Anleger und Beobachter des KI-Marktes zeigt der Fall vor allem eines: Der Wettbewerb um leistungsfähige Modelle wird zunehmend nicht nur über Rechenleistung und Kapital entschieden, sondern auch über den Schutz von Modellzugängen. Die Zuordnung der Akteure bleibt bislang offen, und eine Stellungnahme des beschuldigten Startups steht weiterhin aus. Wie sich die Vorwürfe gegen Moonshot AI entwickeln, dürfte damit auch die Diskussion um Sicherheitsstandards und den Umgang mit Modellzugängen im internationalen KI-Wettbewerb weiter befeuern.