Sam Altman: Welt soll KI-Unternehmen vertrauen, Angst ist berechtigt

Der Chef von ChatGPT-Hersteller OpenAI, Sam Altman, hat die Öffentlichkeit aufgerufen, mehr Vertrauen in sein Unternehmen und ähnliche Firmen zu haben. Angesichts steigender Bedenken bezüglich der Risiken künstlicher Intelligenz sagte Altman am Dienstag auf einer Konferenz in San Francisco: „Die Welt sollte darauf vertrauen, dass wir das Richtige tun, weil es das Richtige ist, und wir spüren die Tragweite dieser Angelegenheit."

Gleichzeitig räumte Altman ein, dass die Befürchtungen der Bevölkerung hinsichtlich der KI berechtigt seien. Die Fähigkeiten der Tools hätten sich rasant entwickelt. „Es braucht nicht mehr so viel Phantasie wie früher, um sich vorzustellen, wie dies schiefgehen könnte", sagte er. „Ich denke, die Welt hat Grund, Angst vor dieser Technologie zu haben."

Debatte um Selbstregulierung versus staatliche Eingriffe

Altmans Äußerungen fielen im Rahmen seines Auftritts auf einer jährlichen Konferenz der Softwarefirma Salesforce. Es war sein erster öffentlicher Auftritt, nachdem sich letzte Woche ein Post eines Forschers viral verbreitet hatte, der das KI-Unternehmen Anthropic verlassen hatte. Der Forscher behauptete, KI könne bis zum Ende des Jahrzehnts alle Menschen auslöschen, wenn sie nicht kontrolliert werde.

Eine Handvoll anderer KI-Führungskräfte und Experten teilte diese Einschätzung, ohne jedoch zu erklären, wie sie zu ihren Schlussfolgerungen kamen. Die Euphorie über diese Behauptungen hat in den letzten Tagen zu einer stärkeren Prüfung der KI-Entwicklung geführt. Dario Amodei, Chief Executive von Anthropic, forderte daraufhin eine Verlangsamung des Tempos aller KI-Entwicklungen und appellierte an die Regierungen, die Branche zu regulieren.

Altman selbst zeigte sich zuversichtlich, dass KI-Unternehmen wie seines in der Lage seien, sich im Wesentlichen selbst zu regulieren. „Wir werden es richtig machen, ich bin sehr zuversichtlich in die Fähigkeit unseres Unternehmens und der Branche, dies sicher zu tun", sagte Altman. Er sei sicher, dass sie „Alignment und Sicherheit weit vor den Fähigkeiten halten" würden, und falls nicht, würden sie „verlangsamen oder stoppen".

Politiker warnen vor Machtkonzentration

Trotz dieser Zusicherungen haben politische Figuren vor einer reinen Selbstregulierung gewarnt. Der linksgerichtete Senator Bernie Sanders sagte, Entscheidungen über die Entwicklung der KI seien von „einer Handvoll der reichsten Menschen der Welt" getroffen worden, wobei er Elon Musk, Meta-Chef Mark Zuckerberg und Amazon-Gründer Jeff Bezos nannte. Auf einer in Washington veranstalteten Konferenz sagte er: „Das Volk dieses Landes muss die Entscheidungen über KI treffen, und nicht nur eine Handvoll Oligarchen."

Auch Steve Bannon, ehemaliger Berater von Donald Trump, bezweifelte die Fähigkeit der Tech-Branche zur Selbstregulierung. „Wir können einem Oligarchen nie vertrauen, weil sie unaufrichtig sind und lügen", sagte Bannon auf derselben Konferenz.

Branchenvertreter uneins über Regulierungsansatz

Mark Zuckerberg schrieb auf X, dass jedes KI-Labor die Fähigkeit und den Anreiz habe, „eigene Maßnahmen" zu ergreifen, um KI-Tools und Modelle zu entwickeln, die auf Sicherheit ausgelegt sind. „Jedes Labor, das sich nicht auf Alignment konzentriert, wird zurückfallen", schrieb Zuckerberg. „Labors stehen vor erheblicher Haftung, wenn ihre Modelle Schaden anrichten, daher haben sie auch einen starken Anreiz, dies zu verhindern."

Jensen Huang, Leiter von Nvidia, dem wertvollsten Unternehmen der Welt, sprach sich ebenfalls gegen neue Gesetze aus. „Wir brauchen keine neuen Gesetze oder Vorschriften", sagte Huang. „Sicherheit ist oberstes Gebot. Allerdings ist Sicherheit ein Ingenieursproblem." Er fügte hinzu, dass die Führung eines KI-Unternehmens, wenn sie jemals kein Vertrauen in ihr Produkt hätte, sich dafür entscheiden sollte, es nicht zu veröffentlichen.

Kritische Stimmen aus der Branche selbst

Nicht alle Branchenvertreter teilen die optimistische Sicht auf Selbstregulierung. Jack Clark, Executive und Mitgründer von Anthropic, sagte am Montag gegenüber der BBC, es sei ein „Würfeln mit immensen Risiken", die KI zu einer „völlig unregulierten Branche" werden zu lassen.

Patrick Hillman, Chief Operating Officer von Logical Intelligence, bemerkte, wie wenig Vertrauen die Menschen in Tech-Unternehmen hätten. „Die einzige Institution, der die Amerikaner heutzutage noch weniger vertrauen als Washington, ist Silicon Valley. Ich habe in beiden gearbeitet und gelebt, und ich versichere Ihnen, dass beide diesen Skeptizismus verdient haben", sagte Hillman.

Führungskräfte von OpenAI und Anthropic haben angekündigt, an einer branchenweiten Vereinbarung über Sicherheit zu arbeiten. OpenAI-Executive Chris Lehane sagte letzte Woche, das Unternehmen arbeite mit anderen KI-Laboren zusammen, „um Standards für Frontier-KI voranzubringen, indem jetzt eine freiwillige Initiative aufgebaut wird, mit oder ohne staatliche Unterstützung". Zu diesen Laboren gehören Anthropic und Google Deepmind.