In der Europäischen Union sind heute neue Regeln für den Umgang mit Künstlicher Intelligenz (KI) in Kraft getreten. Dieses KI-Gesetz der EU (AI Act) stellt das erste staatenübergreifende Gesetzeswerk zum Einsatz von KI dar. Ziel der neuen Verordnung ist der Schutz der Verbraucherrechte und die verantwortungsvolle Nutzung von KI.
Eine der grundlegenden Maßnahmen des neuen Gesetzes ist das Verbot von KI-Programmen, die eine Bewertung aufgrund des sozialen Verhaltens vornehmen. Zudem ist die Gesichtserkennung im öffentlichen Raum grundsätzlich nicht erlaubt, außer in bestimmten Fällen, in denen Polizei und Sicherheitsbehörden diese zur Verfolgung von Straftaten wie Menschenhandel und Terrorismus einsetzen dürfen.
Regulierungen für hochriskante KI-Systeme
Ab dem 2. Februar 2025 müssen Unternehmen, die KI entwickeln oder einsetzen, ihre Systeme nach dem Grad des Risikos bewerten und geeignete Maßnahmen ergreifen. Hochrisiko-KI-Systeme stellen ein hohes Risiko für Gesundheit, Sicherheit oder die Grundrechte dar.
Laut [Europarl.europa.eu](https://www.europarl.europa.eu/topics/de/article/20230601STO93804/ki-gesetz-erste-regulierung-der-kunstlichen-intelligenz) werden hochriskante KI-Systeme in zwei Hauptkategorien unterteilt: Zum einen KI-Systeme in Produkten, die unter die EU-Produktsicherheitsvorschriften fallen, wie beispielsweise Spielzeug, Luftfahrt, Fahrzeuge, medizinische Geräte und Aufzüge. Zum anderen gibt es spezifische Bereiche, die in einer EU-Datenbank registriert werden müssen, darunter die Verwaltung und der Betrieb kritischer Infrastrukturen, Bildung, Strafverfolgung und Grenzkontrollen.
Alle hochriskanten KI-Systeme müssen vor ihrem Inverkehrbringen sowie während ihres gesamten Lebenszyklus bewertet werden. Darüber hinaus haben Bürger das Recht, bei zuständigen nationalen Behörden Beschwerden über KI-Systeme einzureichen.
