König Charles lädt Nvidia, OpenAI und Anthropic zu KI-Sicherheitsgipfel

König Charles III. lädt am Donnerstag die führenden Köpfe der KI-Branche zu einem Gipfeltreffen nach Schottland ein. Zu den Teilnehmern zählen Top-Manager von Nvidia, OpenAI und Anthropic. Im Zentrum steht die Frage, wie sich die rasant fortschreitende Künstliche Intelligenz sicher und im Dienst der Menschheit entwickeln lässt.

Der Buckingham Palace bestätigte, dass die Veranstaltung darauf abzielt, einen gemeinsamen Satz an Prinzipien für die Entwicklung der Technologie zu erarbeiten. Es geht um die Nutzung von KI zum Wohle der Gesellschaft und der natürlichen Welt. Die Debatte über die Risiken der KI-Entwicklung hat zuletzt deutlich an Fahrt aufgenommen.

König warnt vor Kontrollverlust

In einer Rede, deren Auszüge CNBC vorliegen, wird der Monarch deutliche Worte wählen. „Die Entwicklung von KI – ihre Substanz und ihr Tempo – sind gleichermaßen faszinierend und zutiefst besorgniserregend“, so Charles demnach. Er werde die Versammelten auffordern, die Sicherheit der Technologie in den Mittelpunkt zu stellen.

„Diejenigen in unserer Welt, die unsere Menschlichkeit und ihren wichtigen moralischen Aspekt schätzen, suchen ängstlich nach Ihrer Zusicherung, dass wir nicht die Kontrolle über unser Schicksal verlieren“, wird der König hinzufügen. Die Entscheidungen dieser Zeit würden die Welt formen, die zukünftige Generationen erben.

Neben den Chefs von Nvidia, OpenAI und Anthropic werden auch hochrangige Vertreter von Google DeepMind erwartet. Der britische KI-Minister Kanishka Narayan sowie Teilnehmer des King's Trust, der King's Foundation und der Sustainable Markets Initiative sind ebenfalls geladen.

Rufe nach Regulierung spalten die Branche

Die Diskussion um KI-Sicherheit hat in den vergangenen zwei Wochen deutlich an Intensität gewonnen. Tech-Chefs wie Sam Altman (OpenAI), Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind) und Elon Musk zeigten seltene Einigkeit: Sie forderten eine Verlangsamung der Entwicklung und mehr regulatorische Aufsicht.

Auf der anderen Seite stehen prominente Stimmen, die sich gegen schärfere Regeln wehren. US-Präsident Donald Trump, Meta-Chef Mark Zuckerberg und Nvidia-CEO Jensen Huang lehnen weitergehende Regulierungen ab. Die Fronten in der Debatte verlaufen quer durch die Industrie.

KI-Pioniere, die maßgeblich an den Fortschritten der Technologie beteiligt waren, warnen gleichzeitig vor potenziell katastrophalen Risiken. In Washington hat die Diskussion ebenfalls an Schärfe gewonnen. Während Abgeordnete beider Parteien Gesetze zur Überprüfung von KI befürworten, wetterte Trump zuletzt gegen die wachsenden Regulierungsrufe.

Bereits zweiter KI-Gipfel mit königlicher Beteiligung

Bereits 2023 hatte König Charles beim britischen KI-Sicherheitsgipfel virtuelle Bemerkungen beigesteuert. Damals sagte er: „Wir sind Zeuge eines der größten technologischen Sprünge in der Geschichte menschlichen Strebens.“ Der neue Gipfel in Schottland baut auf diesen früheren Bemühungen auf.

Der Palast betonte, dass es darum gehe, internationale Zusammenarbeit und Konsens aufzubauen. Die Frage, wie die Kraft der KI mit Sicherheit im Mittelpunkt genutzt werden kann, steht im Fokus der Gespräche. Für die Teilnehmer geht es um nichts weniger als die Weichenstellung für eine ganze Technologieära.