Die Einführung der chinesischen KI-Anwendung DeepSeek hat sowohl in den USA als auch in Deutschland erhebliche Diskussionen ausgelöst. Laut dem Schwarzwälder Bote wurden von Cybersicherheitsfachleuten und Datenschützern insbesondere Sicherheitsbedenken geäußert. Kritische Punkte beinhalten die umfassende Speicherung von Nutzerdaten, die potenzielle Manipulierbarkeit für kriminelle Zwecke und die unklare Zugangslage des chinesischen Überwachungsapparats zu diesen Daten.
DeepSeek hat in den App-Stores von Apple und Google schnell an Beliebtheit gewonnen. Die Anwendung zeichnet Tastatureingaben auf, was Betrügern die Möglichkeit geben könnte, Nutzerdaten zu identifizieren. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) äußert Bedenken hinsichtlich dieser Praxis, besonders in sicherheitskritischen Bereichen. Die US-Konkurrenz, insbesondere OpenAI, gibt an, keine persönlichen Daten aktiv abzufragen, während der Cloud Act US-Firmen verpflichtet, Behörden im Ausland gespeicherte Daten zugänglich zu machen.
Sicherheitsbedenken und rechtliche Probleme
Der Cybersecurity-Dienstleister Palo Alto Networks stellte fest, dass DeepSeek leicht für kriminelle Zwecke missbraucht werden kann. Weiters kann die Anwendung mit spezifischen Eingaben Skripte zur Datenauslese erzeugen, die von Hackern verwendet werden könnten. Nach den geltenden chinesischen Gesetzen ist DeepSeek verpflichtet, alle Daten in China zu speichern, was einen Zugang durch die Sicherheitsbehörden ermöglicht.
In Deutschland plant der Datenschutzbeauftragte von Rheinland-Pfalz ein Prüfverfahren gegen die Anwendung. Mehrere deutsche Datenschutzaufsichtsbehörden könnten parallel gegen DeepSeek vorgehen. Bereits jetzt hat die italienische Datenschutzbehörde DeepSeek auf den Index gesetzt. Netzwerke von deutschen Ministerien und Unternehmen haben ebenfalls Maßnahmen ergriffen, um sich gegen Cyberattacken, die auch DeepSeek betreffen, abzusichern. Das Bundesinnenministerium hat beispielsweise die Nutzung externer Cloud-Dienste untersagt, und das Finanzministerium hat die Verwendung textgenerativer KI zu dienstlichen Zwecken verboten.
Zusätzlich berichtete die Tagesschau über die Tatsache, dass DeepSeek als neuer Chat-Bot fungiert, der ähnliche Funktionen wie ChatGPT bietet, jedoch günstig entwickelt wurde. Datenschutzbehörden in Deutschland planen eine umfassende Prüfung der KI-Anwendung. Dieter Kugelmann, der Datenschutzbeauftragte von Rheinland-Pfalz, äußerte Bedenken bezüglich der unzureichenden Datenschutzmaßnahmen von DeepSeek. Die Datenschutzrichtlinien der Anwendung umfassen eine weitreichende Datenspeicherung, einschließlich IP-Adressen, Chatverläufen, hochgeladenen Dateien und Tastaturanschlägen.
Weiters wurde festgestellt, dass es kein Abkommen zwischen China und der EU für einen rechtlich sicheren Datenaustausch gibt, was einen möglichen Verstoß gegen die europäische Datenschutzgrundverordnung (DSGVO) darstellt. DeepSeek hat weder eine europäische Niederlassung noch gesetzliche Vertreter, was die Situation weiter kompliziert. Auf der Zwischenkonferenz der Datenschutzbehörden in Berlin war DeepSeek ein zentrales Diskussionsthema. Um Klarheit über die Datenverarbeitung zu erhalten, planen die rheinland-pfälzischen Behörden, einen Fragebogen zur Datenverarbeitung an DeepSeek zu senden.
Schließlich wurde ein Datenleck bei DeepSeek festgestellt, das von der israelischen Cybersicherheitsfirma Wiz entdeckt wurde. Über eine Million Datensätze waren ungesichert im Internet verfügbar, darunter sensible Informationen wie digitale Software-Schlüssel und Nutzeranfragen. DeepSeek hat jedoch umgehend reagiert und die Daten innerhalb einer Stunde entfernt.
