Sam Altman berichtet UN-Sicherheitsrat über KI-Risiken

Sam Altman, der Chief Executive von OpenAI, wird nächste Woche vor dem UN-Sicherheitsrat sprechen. Der 15-köpfige Sicherheitsrat tagt am Mittwoch im Rahmen der jährlichen Generalversammlung der Vereinten Nationen in New York. Das bestätigte ein OpenAI-Sprecher am Freitag gegenüber Reuters. Im Fokus stehen die Risiken künstlicher Intelligenz für die internationale Sicherheit.

Die Sitzung wurde von Frankreich einberufen, das im September den Vorsitz im Sicherheitsrat innehat. Geleitet wird sie vom französischen Minister für Europa und Außenangelegenheiten, Jean-Noël Barrot. Altman wird persönlich in einer offenen Sitzung des Gremiums Bericht erstatten. Seine Ausführungen sollen sich auf den Bedarf an internationaler Koordinierung und gemeinsamen Sicherheitsstandards konzentrieren, so der OpenAI-Sprecher.

Hintergrund und Brisanz des Treffens

Die Anhörung kommt nur wenige Wochen nachdem mehrere Führungskräfte der KI-Branche eine koordinierte Verlangsamung der Entwicklung dieser zunehmend leistungsfähigen Technologie gefordert hatten. Sie warnten davor, dass die Technologie bald in der Lage sein könnte, sich selbst zu verbessern und außer menschliche Kontrolle zu geraten. Altman selbst warnt bereits lange vor dem aktuellen KI-Boom vor den Risiken. In einem Essay aus dem Jahr 2015 mit dem Titel „Machine Intelligence, part 1“ schrieb er, die „Entwicklung übermenschlicher Maschinenintelligenz stelle wahrscheinlich die größte Bedrohung für das Fortbestehen der Menschheit dar“.

Der UN-Sicherheitsrat, der für die Wahrung des internationalen Friedens und der Sicherheit zuständig ist, befasste sich erstmals 2023 mit den Risiken der künstlichen Intelligenz. Damals erklärte China, die Technologie dürfe nicht zu einem „durchgegangenen Pferd“ werden, und die USA warnten vor ihrem Einsatz zur Zensur oder Unterdrückung von Menschen.

Frankreichs Initiative und die internationale Dimension

In einem Konzeptpapier für die Sitzung, das Frankreich an die Mitglieder des Rates verteilt hat und das Reuters vorliegt, heißt es: „Angesichts des Risikos des Missbrauchs dieser Technologie für bösartige Zwecke und unter Berücksichtigung der bestehenden Engagement des Rates auf diesem Gebiet möchte Frankreich die Dringlichkeit von Maßnahmen unterstreichen, um eine sichere und verantwortungsvolle Entwicklung der künstlichen Intelligenz zum Wohl der gesamten internationalen Gemeinschaft zu fördern.“

Frankreich führte weiter aus, dass die Sitzung den Teilnehmern die Möglichkeit bieten solle, „ihre Analyse der Risiken im Zusammenhang mit dem Kontrollverlust oder der Nutzung neuester KI-Modelle zur Entwicklung, Erleichterung und Durchführung von Handlungen mit Auswirkungen auf die internationale Sicherheit und den Frieden vorzustellen“. Diplomaten gaben zudem an, dass sie auch eine hochrangige Vertretung durch Anthropic bei der Sitzung erwarteten, dies sei jedoch noch nicht bestätigt worden. Anthropic reagierte zunächst nicht auf eine Anfrage zur Stellungnahme.

Bedeutung für deutsche Anleger

Die zunehmende Regulierung und internationale Koordinierung im Bereich der künstlichen Intelligenz ist auch für deutsche Anleger von großer Bedeutung. OpenAI als führendes Unternehmen der Branche steht exemplarisch für die rasante technologische Entwicklung, die sowohl Chancen als auch erhebliche Risiken birgt. Die Diskussionen im UN-Sicherheitsrat könnten wegweisend für künftige regulatorische Rahmenbedingungen sein, die wiederum Einfluss auf die Geschäftsmodelle und Bewertungen von KI-Unternehmen haben werden. Anleger sollten die Entwicklungen rund um die Sicherheitsrats-Sitzung daher genau verfolgen, da sie langfristige Auswirkungen auf den gesamten Technologiesektor haben könnten.