Am 2. Februar 2025 tritt das KI-Gesetz der EU (AI Act) in Kraft. Die neuen Regelungen verpflichten Unternehmen in der EU, ihre KI-Systeme nach dem Risikograd zu bewerten. Besonders relevant ist dabei das Verbot von KI-Programmen, die Menschen nach sozialem Verhalten bewerten. Mit diesen Maßnahmen verfolgt die EU das Ziel, die Verbraucherrechte zu schützen und den verantwortungsvollen Einsatz von KI-Technologie zu gewährleisten.
Ein weiteres zentrales Element des Gesetzes ist das Verbot der Gesichtserkennung im öffentlichen Raum, mit bestimmten Ausnahmen für Polizei und Sicherheitsbehörden. Diese Ausnahmen gelten insbesondere zur Verfolgung schwerer Straftaten wie Menschenhandel und Terrorismus. Unternehmen, die KI entwickeln oder einsetzen, müssen geeignete Maßnahmen ergreifen, um den gesetzlichen Anforderungen gerecht zu werden, wie ZDF berichtet.
Regulierungen für hochriskante KI-Systeme
Besondere Aufmerksamkeit gilt hochriskanten KI-Systemen, die ein hohes Risiko für Gesundheit, Sicherheit oder Grundrechte darstellen. Diese Systeme sind in zwei Hauptkategorien unterteilt. Erstens fallen KI-Systeme in Produkte, die unter EU-Produksicherheitsvorschriften stehen, wie beispielsweise Spielzeug, Luftfahrttechnologien, Fahrzeuge, medizinische Geräte und Aufzüge. Zweitens müssen KI-Systeme in spezifischen Bereichen registriert werden, darunter die Verwaltung kritischer Infrastrukturen sowie die Bildung und Strafverfolgung.
Alle hochriskanten KI-Systeme müssen vor ihrer Markteinführung und während ihres gesamten Lebenszyklus bewertet werden. Zudem haben Bürger das Recht, Beschwerden über KI-Systeme bei zuständigen nationalen Behörden einzureichen. Diese Regelungen sind Teil der ersten umfassenden Regulierung der künstlichen Intelligenz in der EU, wie Europarl vermerkt.
