Sicherheitsrisiko DeepSeek: Chinas KI im Fokus

Die chinesische Künstliche Intelligenz DeepSeek steht zunehmend im Fokus von Sicherheitsbedenken. Behörden und Cybersicherheitsfachleute äußern gravierende Vorbehalte, die sich auf mehrere Aspekte konzentrieren. Besonders kritisch wird die umfangreiche Speicherung von Nutzerdaten betrachtet. DeepSeek erstellt detaillierte Nutzerprofile, wobei diese Daten in China gespeichert werden. Dies wirft Fragen hinsichtlich des Zugriffs des chinesischen Überwachungsapparats auf, da das dortige Geheimdienstgesetz Unternehmen zur Kooperation mit den Sicherheitsbehörden verpflichtet.

Ein weiterer Schwerpunkt der Kritik ist die Erfassung von Tastatureingaben. DeepSeek dokumentiert laut eigenen Datenschutzhinweisen "Tastatureingabemuster oder -rhythmen", ein Verfahren, das zur Identifikation von Nutzern verwendet werden kann. Auch Tastatureingaben innerhalb der Anwendung könnten möglicherweise mitgelesen werden, bevor sie abgeschickt werden. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) stuft diese Praxis insbesondere für sicherheitskritische Bereiche als bedenklich ein, da solche Daten zur Erstellung von Nutzerprofilen genutzt werden können.

Darüber hinaus zeigt eine Untersuchung des US-Cybersicherheitsdienstleisters Palo Alto Networks, dass DeepSeek anfällig für Manipulationen ist. Experten gelang es, die KI dazu zu bringen, Skripte zu erstellen, die für den Diebstahl von Daten aus E-Mails und Word-Dokumenten verwendet werden können. Dieses Vorgehen, auch "Jailbreaking" genannt, deutet auf fehlende Schutzmaßnahmen im Vergleich zu anderen KI-Modellen hin. Laut den Forschern erfordert das Umgehen der Sicherheitsvorkehrungen kaum spezielles Fachwissen.

In der Europäischen Union reagierten Datenschutzbehörden bereits auf die Sicherheitsbedenken. Die italienische Datenschutzbehörde GDDP setzte DeepSeek Ende Januar auf den Index, und auch deutsche Datenschutzbehörden bereiten Maßnahmen vor. Ein Verstoß gegen die Datenschutz-Grundverordnung liegt vor, da DeepSeek bislang keinen gesetzlichen Vertreter in der EU benannt hat, was zu Bußgeldern führen kann.

Um sich gegen potenzielle Risiken zu schützen, haben deutsche Ministerien, Bundesbehörden und Unternehmen strenge Sicherheitsmaßnahmen ergriffen. Das Bundesinnenministerium hat die Nutzung externer Cloud-Dienste untersagt, und das Finanzministerium verbietet den Einsatz textgenerativer KI im Internet für dienstliche Zwecke. Große Unternehmen wie Wacker Chemie und Siemens beschränken den Einsatz von DeepSeek strikt oder integrieren es nur in geschützte Systeme, um die Sicherheit sensibler Daten zu gewährleisten.