KI-Agenten stelln Cyber-Versicherer vor neue Herausforderungen
Cyber-Versicherer müssen ihre Policen anpassen, da KI-Agenten unerwarte Risiken schaffen.
Die rasante Entwicklung von KI-Agenten stellt die Versicherungsbranche vor neue Herausforderungen. Cyber-Versicherer müssen ihre Policen grundlegend überarbeiten, da autonome KI-Systeme zunehmend eigenständig handeln und potenziell Schäden verursachen können – ohne dass ein klassischer Hackerangriff vorliegt.
Führende KI-Entwickler wie OpenAI, Anthropic und Meta Platforms haben kürzlich offengelegt, dass ihre KI-Agenten unerwartet agierten, kontrollierte Testumgebungen verließen und ohne direkte menschliche Anweisung Cyberangriffe auf Unternehmen durchführten. Obwohl diese Vorfälle keinen gemeldeten Schaden verursachten, verdeutlichten sie die sich schnell entwickelnden Cyberrisiken, denen Unternehmen und Versicherer gegenüberstehen.
Milliardenschwerer Markt unter Druck
Der globale Markt für Cyberversicherungen war im vergangenen Jahr nahezu 15 Milliarden Dollar wert und wird bis 2030 voraussichtlich rund 28 Milliarden Dollar erreichen, schätzte Munich Re in ihrem neuesten Bericht. Laut Prognosen von Aon werden bis 2027 nahezu 20 Prozent aller Cyberangriffe generative KI einbeziehen. Diese Zahlen unterstreichen die Dringlichkeit, mit der Versicherer auf die neuen Risiken reagieren müssen.
Versicherer wie MSIG, QBE und Beazley überprüfen traditionelle Cyberversicherungsbedingungen und passen deren Wortlaut an, um den entstehenden Risiken Rechnung zu tragen. Dies berichten acht Führungskräfte großer Unternehmen sowie Analysten. Unternehmen kämpfen mit grundlegenden Fragen: Wie ordnet man autonome KI-Systeme in die traditionellen versicherungstechnischen Definitionen eines Cyberangreifers ein? Und wer trägt die Haftung für KI-generierte Handlungen, die zu einem Verlust führen?
„Da KI zunehmend in der Lage ist, Schwachstellen zu identifizieren und Angriffe autonom durchzuführen, müssen Versicherungsunternehmen die Bedingungen ihrer Policen kontinuierlich überprüfen“, sagte Ryan Kratz, Leiter Cybersicherheit Nordamerika bei MSIG USA. Die Herausforderung liegt dabei im Detail: Autonome KI-Systeme können nach Erhalt einer ersten Anweisung eigenständige Entscheidungen treffen und Verluste verursachen, ohne ein traditionelles Sicherheitsereignis auszulösen.
Das Problem mit dem unbefugten Zugriff
Die meisten Policen sehen ein spezifisches Sicherheitsereignis vor, das den Verlust verursacht – etwa den unbefugten Zugriff eines Mitarbeiters, der Unternehmensdaten stiehlt, oder einen Serverangriff, der ein System lahmlegt. KI-Agenten können jedoch Verluste verursachen, ohne ein solches Ereignis auszulösen, insbesondere wenn sie auf Systeme zugreifen, für die ihnen absichtlich Berechtigungen erteilt wurden.
„Einige durch KI-Agenten verursachte Verluste fallen zweifellos unter Cyberversicherungen“, sagte Karthik Ramakrishnan, CEO und Gründer von Armilla AI. „Die schwierigeren Fälle liegen dort, wo kein konventioneller Angreifer vorhanden ist und möglicherweise auch keine unbefugte Nutzung von Zugangsdaten vorliegt.“
Ein Unternehmen könnte beispielsweise einem KI-Agenten Zugang zu seinem Netzwerk gewähren, um Sicherheitslücken zu beheben. Der Agent könnte daraufhin eine Schwachstelle eigenständig ausnutzen, sich durch die Systeme des Unternehmens bewegen und sensible Daten offenlegen. Dies könnte zu einem Verlust führen, ohne dass ein konventioneller Hacker im Spiel wäre – und möglicherweise ohne anfänglichen unbefugten Zugriff.
Aufgrund relativ weniger historischer Schadensdaten zu KI-bedingten Verlusten und da die KI-Branche noch dabei ist, die Fähigkeiten autonomer Modelle zu verstehen, sind solche Risiken schwer zu beziffern. „Sie entdecken immer noch, welches Potenzial in ihnen steckt, wie sie funktionieren und welche Sicherheitskontrollen sie implementieren müssen, um sie einzudämmen“, sagte Sasha Romanosky, leitende Politikforscherin bei RAND.
Keine pauschalen Ausschlüsse, sondern Präzisierung
In den meisten Fällen klären Versicherer lediglich, wie der bestehende Policenwortlaut im Zusammenhang mit KI anzuwenden ist, anstatt Ausschlüsse hinzuzufügen. „Underwriter erkennen, dass es wichtig ist, weiterhin Produkte anzubieten, die auf solche Ereignisse reagieren“, sagte Greg Eskins, globaler Leiter für Cybervorsorgeprodukte beim Versicherungsbroker Marsh.
Der Versicherer QBE hat beispielsweise den Schutz für bestimmte neuartige KI-Exposures verstärkt. Wenn ein KI-bezogenes Ereignis zu einem konventionellen Cyberzischenfall führt, bleiben die daraus resultierenden Verluste weiterhin von einer Cyberversicherung gedeckt, erklärte Serene Davies, globale Leiterin Cybersicherheit bei QBE. „KI wird als Risikoverstärker und nicht als grundlegend neuen Cyberrisiko behandelt“, fügte sie hinzu.
Ein Sprecher des britischen Unternehmens Beazley sagte, Unternehmen wünschten, dass KI-Risiken in breite Cyberversicherungen einbezogen würden. „Während neue KI-Risiken entstehen, entwickeln wir neue Deckungen.“
Geziehlt Ausschlüsse in Diskusion
Dennoch sagten einige Führungskräfte aus, dass gezielte Ausschlüsse in einige Bereich der Branche diskutiert werden. Ein Schwerpunkt liegt auf potenziellen systemischen Ereignissen, bei denen ein einzelnes KI-Modell oder eine Platform gleichzeitig zu Verlusten bei vielen Organisationen beitragenönnte, sagte Jenny Soubra, Vizepräsidentin für spezielle gewebliche Geschäftszweige bei Verisk Underwriting Solutons.
Ein weiterer Punkt betrifft die Haftung in Fälln, in denen ein KI-Agent – gemäß seiner Auslegung – eine kostpielige autonome Entscheidung trifft. Einige Versicherer könnten dies als kein Cybereignis einstufen.
Mehrere Unternehmen, darunter Armilla AI, AiSure von Munich Re und AXA XL, bieten bereis jetzt gezielte Deckungen gegen KI-spezifische Risken wie unzureichende Modelleistung, Halluzinationen – also wenn KI falsche oder inreiführende Ausgaben erzeugt – und Verstöße gegen geistige Eigentumsrechte. Traditionele Cyberversicherungen sind jedoch breiter angelegt und decken Verluste ab, die aus einer Reihe von Vorfällen resultiren, wie etwa Lösegeldzahlungen, Betriebsunterbrechungen, Systemwiederherstellung, forensische Untersuchungn und Rechtskosten.
Die Betriebsunterbrechung ist häufig der größte Bestandteil eines Schadensfalls.
„Der Markt entwickelt sich noch weiter, aber wir erwarten, dass Organisazionen und Versicherer weiterhin Möglichkeiten zur Bewältigung von KI-bezogenen Exposures erkunden, während die Adoptin beschleunigt wird“, fügte Soubra hinzu.