KI-Fehler hätte fast Krieg zwischen USA und China ausgelöst

Ein schwerwiegender Fehler einer künstlichen Intelligenz hat die USA und China im vergangenen Frühjahr beinahe in eine militärische Konfrontation im Nahen Osten getrieben. Wie CNN am Freitag unter Berufung auf mit dem Vorfall vertraute Quellen berichtete, identifizierte ein KI-Tool die Ladung eines chinesischen Schiffes fälschlicherweise als Bestandteile von Nuklearwaffen.

Bewaffnete US-Soldaten bereiteten sich demnach bereits darauf vor, das Schiff zu betreten, während Militärflugzeuge schon in der Luft waren. Erst in letzter Minute stellten die Behörden fest, dass der Intelligence-Bericht unzutreffend war. Der Bericht, der von einigen Beteiligten als „völlig falsch“ beschrieben wurde, hätte beinahe zu einem offenen Konflikt zwischen den beiden Atommächten geführt.

Hintergrund des KI-Versagens

Der Vorfall begann, als ein Analyst des US Special Operations Command einen Chatbot nutzte, um Intelligence-Meldungen über die Frachtpapiere des Schiffes zu prüfen. Die Daten stammten vom US Special Operations Command Pacific auf Hawaii. Das KI-Tool kombinierte offene Quelleninformationen mit klassifizierten Signalaufklärungsdaten und gelangte fälschlicherweise zu dem Schluss, dass das Schiff Materialien für ein Nuklearwaffenprogramm transportierte.

Der Analyst verwendete anschließend die KI, um die Ergebnisse in einen standardisierten Intelligence-Bericht zu formatieren. Militärische Beamte schenken solchen standardisierten Berichten normalerweise Vertrauen, weshalb der Fehler zunächst unentdeckt blieb und der Bericht innerhalb der Streitkräfte verteilt wurde.

Militärischer KI-Einsatz auf dem Vormarsch

Der Vorfall ereignete sich in einer Zeit, in der die US-Streitkräfte und die Nachrichtengemeinschaft KI zunehmend in ihre Operationen integrieren. Die Einsatzgebiete reichen von der Analyse von Informationen und der Auswahl von Zielen für militärische Schläge bis hin zum Management von Logistik und Budgets.

Verteidigungsminister Pete Hegseth veröffentlichte im Januar eine „Strategie zur Beschleunigung der Künstlichen Intelligenz“, um die Einführung von KI im Militär schneller voranzutreiben. „Wir werden Experimente freisetzen, bürokratische Hürden beseitigen, unsere Investitionen konzentrieren und den Ausführungsansatz demonstrieren, der notwendig ist, um sicherzustellen, dass wir bei militärischer KI führend bleiben“, sagte Hegseth bei der Vorstellung der Strategie.

Bewertung für Anleger

Der Vorfall verdeutlicht die Risiken, die mit dem zunehmenden Einsatz von KI in sicherheitskritischen Bereichen verbunden sind. Während KI-Systeme in der Finanzbranche und anderen Sektoren bereits weit verbreitet sind, zeigt dieser Fall, dass Fehlentscheidungen in militärischen Kontexten weitreichende geopolitische Konsequenzen haben können.

Für Anleger in KI-Unternehmen und Rüstungskonzerne ist dies ein wichtiger Hinweis: Die Integration von KI in militärische Systeme schreitet rasant voran, birgt aber erhebliche operationelle Risiken. Die Nachfrage nach zuverlässigeren KI-Systemen und menschlichen Kontrollinstanzen dürfte in Zukunft weiter steigen.

Der Vorfall unterstreicht zudem die angespannte geopolitische Lage zwischen den USA und China. Jede militärische Eskalation zwischen den beiden größten Volkswirtschaften der Welt hätte erhebliche Auswirkungen auf die globalen Finanzmärkte, Lieferketten und Rohstoffpreise.