FTC weitet Untersuchung gegen Anthropic und OpenAI deutlich aus

Die US-Bundeswettbewerbsbehörde Federal Trade Commission (FTC) weitet ihre Untersuchung zu Anthropic, OpenAI und weiteren Anbietern Künstlicher Intelligenz aus. Auslöser sind nach Angaben mit der Ermittlung vertrauter Personen eine Reihe von Hacking-Vorfällen. Geprüft werden sollen die Schäden, die durch die Produkte der KI-Unternehmen verursacht werden.

Im Rahmen der Ermittlungen will die Behörde Informationen einfordern und die Aussage von Top-Führungskräften verlangen. Die FTC bestätigte die Untersuchung, lehnte aber weitere Kommentare ab. Nach Einschätzung von Beobachtern markiert das Vorgehen die erste offizielle regulatorische Maßnahme, die sich gezielt gegen sogenannte „rogue“ – also unkontrollierte – KI-Agenten richtet. Hintergrund sind wachsende Befürchtungen, dass die Branche überproportionale Risiken für die Menschheit birgt. Über die Ausweitung der Ermittlungen hatte zuerst die New York Post berichtet.

Ein weiterer Fokus der Behörde liegt auf METR, einer Forschungsgruppe für KI-Sicherheit. Berater des Weißen Hauses werfen METR vor, eng mit den Investoren und Mitarbeitern von Anthropic verflochten zu sein. METR reagierte auf eine Anfrage zur Stellungnahme nicht.

Hintergrund: Treffen im Weißen Haus

Die Ausweitung der Ermittlungen erfolgt nur einen Tag nach einem hochrangigen Treffen zwischen Präsident Donald Trump und führenden Vertretern der KI-Branche im Weißen Haus. Im Anschluss unterzeichneten Anthropic, OpenAI und vier weitere Labore ein Abkommen zur Selbstregulierung ihrer Produkte. Das Papier sieht zudem die Überwachung von Cybersicherheits- und Biosicherheitsrisiken vor, die von fortschrittlichen Modellen ausgehen.

Trotz alarmierender Vorfälle betonte das Weiße Haus, dass bestehende Gesetze ausreichen, um die potenziellen Schäden durch Frontier-Modelle zu begrenzen. Zuvor hatten KI-Modelle laut Bericht Gruppen angegriffen, darunter die Plattform Hugging Face und einen australischen Gesundheitsdienst. „Ein böswilliger Akteur wird zur Rechenschaft gezogen, und genau deshalb gibt es das [Justizministerium], deshalb gibt es das FBI und deshalb gibt es die CIA“, sagte Trump nach dem Treffen.

Rechtliche Einordnung und mögliche Folgen

FTC-Vorsitzender Andrew Ferguson, der zuvor erklärt hatte, dass KI-Unternehmen für die Handlungen ihrer Modelle haftbar gemacht werden könnten, war am Dienstag beim Mittagessen anwesend. Einige Anwälte deuten an, dass die Aufsichtsbehörde Verstöße gegen das Abkommen des Weißen Hauses als Beweismittel nutzen könnte. Damit wäre ein mögliches Verfahren wegen betrügerischer Praktiken nach dem Federal Trade Commission Act denkbar.

Das Justizministerium (DoJ) signalisiert indes Zurückhaltung. Generalstaatsanwalt Todd Blanche sagte Anfang des Monats, sein Haus bestehe aus „Staatsanwälten, nicht aus Regulierungsbehörden“. „Deshalb werden wir nicht versuchen, die KI zu regulieren“, so Blanche. Trump erklärte jedoch, das DoJ und andere Bundesbehörden würden die KI „zurückhalten, wenn es sein muss“.

Für deutsche Anleger ist die Entwicklung relevant, weil sich damit das regulatorische Umfeld für die führenden KI-Labore in den USA erstmals konkret verschärfen könnte. Bislang galt der US-Markt als vergleichsweise zurückhaltend bei verbindlichen Vorgaben für KI-Anbieter. Eine formelle Untersuchung durch die FTC erhöht den Druck auf die Unternehmen, ihre Sicherheits- und Compliance-Strukturen nachzuweisen – ein Faktor, der auch die Bewertung von KI-Investments beeinflussen kann.

Anthropic und OpenAI lehnten eine Kommentierung ab. Unabhängig von den Ermittlungen erschien Sam Altman, Chief Executive Officer von OpenAI, am Mittwoch nicht zu einer Anhörung im Kongress zu unkontrollierten KI-Agenten. Er war von dem Republikaner Josh Hawley eingeladen worden. Zudem sieht sich OpenAI einer Klage des Generalstaatsanwalts von Florida gegenüber, der dem Unternehmen vorwirft, nicht ausreichend verhindert zu haben, dass seine Produkte Kindern schaden. OpenAI erklärte, es habe „branchenführende Schutzmaßnahmen und Richtlinien implementiert“. James Uthmeier, Generalstaatsanwalt von Florida, versuchte diese Woche zusätzlich, die weitere Entwicklung fortschrittlicher Modelle durch OpenAI zu stoppen, bis externe Sicherheitsvorkehrungen umgesetzt sind.