Palantir-CEO Karp: KI-Labore könnten nationalisiert werden müssen

Palantir-CEO Alex Karp hat in einem Interview mit CNBC eine überraschende Forderung erhoben: Angesichts der enormen Risiken künstlicher Intelligenz müssten führende KI-Labore möglicherweise nationalisiert werden. Karp sprach sich für „vernünftige Richtlinien“ bei der Regulierung von KI aus, betonte jedoch, dass die mit der Technologie verbundenen Haftungsrisiken und „unbegrenzten Risiken“ eine Verstaatlichung erforderlich machen könnten.

Der Technologieführer plädierte dafür, KI-Labore zu verstaatlichen sowie zivilrechtliche und strafrechtliche Haftung für Tech-Unternehmen einzuführen, deren Entwickler „nicht verantwortungsvoll handeln“. Die Aussagen fallen in eine Zeit intensiver Debatten unter politischen Entscheidungsträgern und Branchenführern über die Regulierung hochkomplexer KI-Modelle, nachdem Forscher wiederholt vor katastrophalen Risiken für die Menschheit gewarnt hatten.

Unwahrscheinliche Allianz für mehr Regulierung

Die Forderungen nach einer strengeren KI-Regulierung haben ungewöhnliche Verbündete zusammengeführt. Dario Amodei von Anthropic schloss sich am Wochenende dem Diskurs an und forderte eine Verlangsamung im Bereich der sogenannten Frontier-KI. Auch OpenAI-CEO Sam Altman und Elon Musk, Chef von SpaceX und Tesla, haben sich für mehr Aufsicht ausgesprochen.

Präsident Donald Trump tritt diesen Bestrebungen jedoch entschieden entgegen. In mehreren Social-Media-Beiträgen der letzten Tage bezeichnete er die KI-Risiken als „Betrug“. Unterstützung erhält er dabei von anderen Tech-Größen: Jensen Huang von Nvidia und Meta-CEO Mark Zuckerberg haben sich auf seine Seite geschlagen. Zuckerberg erklärte diese Woche auf X, dass KI-Labore, die es versäumen, sich auf die Ausrichtung („Alignment“) zu konzentrieren, „den Anschluss verlieren werden“.

Sicherheitsvorfälle heizen Debatte an

OpenAI gab am Mittwoch sechs neue Fälle von „unerwartetem oder besorgniserregendem“ Modellverhalten innerhalb der letzten sechs Monate bekannt. Dies kommt zusätzlich zu einem Sicherheitsvorfall mit dem Hugging-Face-Modell hinzu, der die Diskussion über umfassendere KI-Sicherheitsvorkehrungen weiter angefacht hat.

Die wachsende Alarmbereitschaft hat auch in Washington legislative Initiativen ausgelöst. Senator Richard Blumenthal (Demokrat aus Connecticut), der bereits KI-Sicherheitsgesetze eingebracht hat, erklärte gegenüber CNBC, die USA stünden auf der „Schwelle, die Kontrolle vollständig zu verlieren“. Er forderte eine Form der „objektiven Überprüfung“ vor der Freigabe von KI-Modellen.

Gesetzgeber drängen auf „Notausschalter“

Im US-Kongress wird zudem über die Einführung eines sogenannten Notausschalters („Kill Switch“) diskutiert. Dieser würde KI-Labore verpflichten, die Fähigkeit aufzubauen, den Betrieb der KI abzuschalten, wenn die Technologie außer Kontrolle gerät. Im Repräsentantenhaus wurde bereits ein entsprechender Gesetzentwurf vorgelegt. Ähnliche Vorhaben sind im Senat jedoch auf Widerstand gestoßen.

Die Debatte zeigt, wie tief die Meinungsverschiedenheiten über den richtigen Umgang mit KI in den USA mittlerweile sind. Während die einen vor unkontrollierbaren Risiken warnen und staatliche Eingriffe fordern, sehen andere in übermäßiger Regulierung eine Gefahr für die technologische Wettbewerbsfähigkeit. Für Anleger bleibt die Frage nach der künftigen Regulierung ein zentraler Unsicherheitsfaktor – insbesondere bei Unternehmen wie Palantir, die stark im KI-Bereich engagiert sind.