Open-Source-KI-Modelle: Cybersecurity-Experten warnen vor kriminellem Missbrauch

Cybersecurity-Forscher schlagen Alarm: Open-Source-KI-Modelle wie Metas Llama und Googles Gemma sind zunehmend anfällig für kriminellen Missbrauch. Eine umfassende Studie der Sicherheitsunternehmen SentinelOne und Censys zeigt, dass Hacker gezielt Computer angreifen könnten, auf denen diese Large Language Models (LLMs) laufen. Die Angreifer könnten die Systeme für Spam-Operationen, Phishing-Kampagnen oder Desinformationsaktionen nutzen – unter Umgehung aller Sicherheitsprotokolle.

Die über 293 Tage durchgeführte Untersuchung, die exklusiv mit Reuters geteilt wurde, offenbart das erschreckende Ausmaß potenziell illegaler Anwendungen. Zu den identifizierten Missbrauchsfällen zählen Hacking-Aktivitäten, Hassrede, Belästigung, gewalttätige Inhalte, Datendiebstahl und Betrug. In einigen Fällen entdeckten die Forscher sogar Material über sexuellen Kindesmissbrauch.

Besonders alarmierend: Bei Hunderten von Open-Source-Modellen wurden vorhandene Schutzmechanismen bewusst entfernt. Die Forscher konnten bei etwa einem Viertel der untersuchten LLMs die System-Prompts einsehen – die grundlegenden Anweisungen, die das Verhalten der KI steuern. Von diesen ermöglichen 7,5 Prozent potenziell schädliche Aktivitäten.

Globale Verteilung der Risiko-Systeme

Die geografische Verteilung der betroffenen Systeme zeigt ein besorgniserregendes Bild: Etwa 30 Prozent der von den Forschern beobachteten Hosts werden von China aus betrieben, rund 20 Prozent befinden sich in den USA. Die Studie konzentrierte sich auf öffentlich zugängliche Bereitstellungen über Ollama, ein Tool, das es Einzelpersonen und Organisationen ermöglicht, eigene Versionen verschiedener Sprachmodelle zu betreiben.

Juan Andres Guerrero-Saade, Executive Director für Intelligence und Sicherheitsforschung bei SentinelOne, vergleicht die Situation mit einem "Eisberg": "Die Gespräche in der KI-Branche über Sicherheitskontrollen ignorieren diese Art von überschüssiger Kapazität, die eindeutig für alle möglichen Dinge genutzt wird, einige davon legitim, andere offensichtlich kriminell." Diese Problematik werde in der gesamten Branche und der Open-Source-Community nicht angemessen berücksichtigt.

Geteilte Verantwortung im KI-Ökosystem

Rachel Adams, CEO des Global Center on AI Governance, betont die komplexe Verantwortungsstruktur: Sobald offene Modelle veröffentlicht werden, sei die Verantwortung im gesamten Ökosystem geteilt – einschließlich der ursprünglichen Entwicklerlabore. "Labore sind nicht für jeden nachgelagerten Missbrauch verantwortlich, aber sie behalten eine wichtige Sorgfaltspflicht, vorhersehbare Schäden zu antizipieren, Risiken zu dokumentieren und Werkzeuge sowie Anleitungen zur Risikominderung bereitzustellen", erklärt Adams.

Meta äußerte sich nicht direkt zu Fragen der Entwicklerverantwortung, verwies jedoch auf die eigenen Llama-Schutzwerkzeuge und den Leitfaden für verantwortungsvolle Nutzung. <a class="tvreplink" target="_blank" href="https://de.tradingview.com/symbols/Nasdaq%3AMSFT">Microsoft betont in einer Stellungnahme, dass Open-Source-Modelle zwar "eine wichtige Rolle" spielen, aber ohne angemessene Schutzmaßnahmen von Gegnern missbraucht werden können.

Ram Shankar Siva Kumar, Leiter des AI Red Teams bei Microsoft, erklärt: "Letztendlich erfordert verantwortungsvolle offene Innovation ein gemeinsames Engagement von Entwicklern, Bereitstellern, Forschern und Sicherheitsteams." Microsoft führe Pre-Release-Evaluierungen durch und überwache kontinuierlich aufkommende Bedrohungen und Missbrauchsmuster, insbesondere bei Szenarien mit hohem Missbrauchspotenzial.