OpenAI-Mitarbeiter für Sicherheit tritt zurück und kritisiert Kultur

Ein ehemaliger Mitarbeiter für KI-Sicherheit bei OpenAI hat seinen Rücktritt bekannt gegeben und die Sicherheitskultur des Unternehmens scharf kritisiert. David Robinson schrieb in einem am Samstag im Magazin The Atlantic veröffentlichten Artikel mit dem Titel „I Quit OpenAI Because Its Culture Is Broken", dass KI-Unternehmen – einschließlich OpenAI – nicht „annähernd vorsichtig genug" seien. Die Nachricht wurde am 3. Oktober über die Nachrichtenagentur Reuters verbreitet.

Im Zentrum seiner Kritik steht der Umgang des ChatGPT-Herstellers mit der Freigabe immer leistungsfähigerer Modelle. Robinson argumentiert, dass eine schnelllebige Unternehmenskultur, die auf rasante Entwicklung setzt, das Risiko von Ausfällen erhöhe. Sein Fazit fällt deutlich aus: „Die Zeit für Trial-and-Error ist vorbei."

Robinson fordert, dass hochentwickelte KI-Systeme Schutzmaßnahmen benötigen, die eher denen in Branchen wie der Atomkraft oder der Luftfahrt ähneln. Damit reiht er sich in eine wachsende Debatte innerhalb der KI-Branche ein, ob Unternehmen zu schnell immer leistungsfähigere Systeme entwickeln. OpenAI und der Konkurrent Anthropic standen bereits unter Beschuss, nachdem es Vorfälle gegeben hatte, bei denen Sicherheitskontrollen versagten oder experimentelle Systeme unerwartet reagierten.

Die Details

Robinson war nach eigenen Angaben dreieinhalb Jahre lang bei OpenAI tätig. In dieser Zeit half er bei der Ausarbeitung des sogenannten Preparedness-Frameworks des Unternehmens – eines Regelwerks, mit dem OpenAI die Risiken seiner Modelle bewerten will. Zudem überwachte er die Sicherheitsberichte für 12 Starts von Frontier-Modellen. Seine Kritik stützt sich damit nicht auf einen Blick von außen, sondern auf eine zentrale Rolle im Sicherheitsapparat des Unternehmens.

Seine Kritik richtet sich vor allem gegen das, was OpenAI „iterative Bereitstellung" nennt. Nach diesem Ansatz werden Systeme zunächst freigegeben und Schutzmaßnahmen erst dann verstärkt, sobald Probleme auftreten. Robinson hält diesen Weg für unzureichend. „Während das Unternehmen von einem Launch zum nächsten hetzt, wird es nicht das Maß an Sorgfalt erreichen, das meiner Überzeugung nach erforderlich ist", schrieb er.

OpenAI wies die Darstellung zurück. „Wir stellen sicher, dass unsere Modelle nicht leistungsfähiger werden, als wir sie sicher managen und absichern können, und wir pausieren das Training oder halten Modelle zurück, wenn wir abbremsen müssen", sagte ein Sprecher des Unternehmens in einer Erklärung. Das Unternehmen verteidigt damit ausdrücklich seinen Ansatz, Entwicklungstempo und Sicherheit gegeneinander abzuwägen.

Robinson warnte zudem vor einer wachsenden Lücke zwischen technischer Leistungsfähigkeit und wissenschaftlichem Verständnis. Die Fähigkeiten von KI entwickelten sich schneller als das Verständnis der Forscher für Alignment – jenes Forschungsfeld, das sicherstellen soll, dass KI-Systeme gemäß menschlichen Zielen und Werten handeln. Genau diese Verschiebung ist der Kern seiner Warnung: Die Kontrolle hinkt der Leistungsfähigkeit hinterher.

Hintergrund: Was bisher geschah

Die Kritik fällt in eine Phase erhöhter Unruhe in der KI-Branche. Bereits am 11.09.2026 berichtete aktien.news, dass führende Forscher bei Anthropic und OpenAI vor existenziellen Gefahren warnen, während die US-Politik gespalten reagiert. Im Zentrum steht die sogenannte rekursive Selbstverbesserung (RSI), bei der KI-Systeme eigenständig an ihrer eigenen Architektur arbeiten. Der Anthropic-Alignment-Experte Evan Hubinger schätzte das Risiko, dass KI innerhalb des nächsten Jahrzehnts die Menschheit auslöschen könnte, auf über 10 Prozent.

Am 19.09.2026 berichtete aktien.news über eine beispiellose Kaskade von Ereignissen innerhalb von nur zehn Tagen, in der die größten KI-Labore der Welt ins Taumeln gerieten. Forscher verließen ihre Unternehmen mit drastischen Warnungen, während sich die CEOs der führenden KI-Entwickler in seltener Einheit für eine Verlangsamung der Entwicklung aussprachen. Das lange gültige Silicon-Valley-Prinzip „Move fast and break things" kehrte sich damit gegen die Branche selbst.

Am 22.09.2026 meldete aktien.news, dass OpenAI in einem Blogbeitrag einen umfassenden Katalog an Vorschlägen zur Sicherheit von Frontier-KI vorgelegt hat. Der ChatGPT-Hersteller fordert internationale Zusammenarbeit bei globalen KI-Standards und legt einen Schwerpunkt auf Alignment-Forschung sowie auf rekursive Selbstverbesserung. Das Unternehmen reagierte damit auf die jüngste Welle von Warnungen aus der Branche.

Erst am 02.10.2026 berichtete aktien.news, dass OpenAI drei Forscher entlassen hat. Das Unternehmen wirft ihnen vor, fahrlässig mit sensiblen Informationen umgegangen zu sein, darunter Arbeiten zu externen Organisationen, die KI-Modelle analysieren. Mindestens zwei der Entlassenen waren im Sicherheitsbereich tätig. Die Personalie Robinson fügt sich damit in eine Reihe von Vorgängen, die das Verhältnis zwischen OpenAI und Teilen seiner Sicherheitsbelegschaft belasten.

Was das für Anleger bedeutet

Für Anleger ist die Personalie vor allem ein Signal für ein Risiko, das sich nicht in klassischen Kennzahlen abbildet: regulatorischen und reputativen Druck auf die führenden KI-Unternehmen. OpenAI und Anthropic standen bereits unter Beschuss, nachdem Sicherheitskontrollen versagt hatten oder experimentelle Systeme unerwartet reagierten. Solche Vorfälle können die Geschwindigkeit bremsen, mit der neue Modelle auf den Markt kommen – und damit auch die Umsatzdynamik der Branche.

Zugleich zeigt der öffentliche Schlagabtausch, dass der Druck auf die Unternehmen wächst, Sicherheitsstandards nachzuweisen. Wer in KI-Werte investiert, sollte die Sicherheits- und Regulierungsdebatte daher als festen Bestandteil der Unternehmensbewertung betrachten und nicht als Nebenthema. Die Kritik kommt aus dem Inneren des Unternehmens und von jemandem, der an zentraler Stelle an den Sicherheitsprozessen mitgearbeitet hat – das erhöht die Aufmerksamkeit, die solchen Aussagen in der Branche und bei Aufsichtsbehörden zukommt.

Ausblick

Ob Robinsons Rücktritt konkrete Folgen für OpenAIs Sicherheitsprozesse hat, ist offen. Das Unternehmen hält an seinem Ansatz fest und verweist auf die Möglichkeit, Training zu pausieren oder Modelle zurückzuhalten. Die Debatte über Tempo und Sicherheit in der KI-Entwicklung dürfte weitergehen – befeuert durch die jüngsten Vorfälle und die wachsende Zahl von Warnungen aus der Forschergemeinde.

Kurz erklärt

• Frontier-Modell: Ein besonders leistungsfähiges KI-Modell an der aktuellen Grenze des technisch Machbaren.
• Alignment: Forschungsfeld, das KI-Systeme an menschlichen Zielen und Werten ausrichten soll.
• Iterative Bereitstellung: Ansatz, bei dem ein System zuerst veröffentlicht und erst bei Problemen nachgebessert wird.
• Preparedness-Framework: Regelwerk eines KI-Unternehmens zur Bewertung der Risiken seiner Modelle.