Ob die zahllosen Verheißungen der sogenannten Künstlichen Intelligenz irgendwann einmal eingelöst werden, ist überaus zweifelhaft. Fest steht aber, dass der Einsatz von KI-Systemen schon jetzt unsere Grundrechte bedroht. Nicht zuletzt aus diesem Grund ist um die KI-Verordnung hart gerungen worden. Und noch bevor sie im März auf EU-Ebene verabschiedet wurde, hatten die Ampel-Parteien zugesichert, die Technologie auf nationaler Ebene strenger zu regulieren, als es das EU-Gesetz vorsieht.

Doch nur wenige Tage, bevor die KI-Verordnung zum 1. August in Kraft tritt, wachsen Zweifel, ob sich die Ampel an diese Zusage hält. So forderte Lars Castellucci, SPD-Bundestagsabgeordneter und stellvertretender Vorsitzender des Innenausschusses, gegenüber Tagesspiegel Background [€], dass Ausnahmen bei der biometrischen Überwachung „der gestiegenen Bedrohungslage“ gerecht werden müssten. Strengere Regeln für die Sicherheitsbehörden lehnt der Innenpolitiker ab.

Wir haben daher bei Abgeordneten der Ampel nachgefragt, welche Regelungen sie für die nationale Umsetzung anstreben. Demnach gibt es in der Koalition weiterhin deutliche Fürsprecher:innen für eine strengere Regulierung. Allerdings ist unklar, wie weitgehend diese sein wird und wann sie genau erfolgt. Fest steht nur, dass ein besserer Schutz vor biometrischer Überwachung nur dann möglich ist, wenn sich die Mehrheit der Abgeordneten aktiv dafür einsetzt.

Große Schlupflöcher für die Strafverfolgungsbehörden

Die KI-Verordnung der EU setzt Regeln für Unternehmen und Behörden, die entsprechende Technologien entwickeln und einsetzen. Das Gesetz teilt KI-Systeme dazu in verschiedene Kategorien auf. Je riskanter ein KI-System, desto strikter sind die Vorgaben, etwa für die Qualität der Daten, die Dokumentation oder für Risikobewertungen, die vor einem Einsatz gemacht werden müssen. Bestimmte Systeme mit unannehmbaren Risiko sollen verboten werden, etwa Social Scoring.

Wenn die KI-Verordnung am kommenden Donnerstag in Kraft tritt, erfolgt damit zugleich der Startschuss für die schrittweise nationale Umsetzung in den EU-Mitgliedstaaten. KI-Praktiken, die ein sogenanntes inakzeptables Risiko für die Grundrechte der EU Bürger:innen darstellen, müssen bereits in sechs Monaten verboten sein. Und die genaue Ausgestaltung für die Sicherheitsbehörden muss bis zum 2. August 2025 erfolgen.

Bislang lassen die europaweiten Regeln biometrische Überwachungstechniken wie Gesichtserkennung teilweise zu – mitunter sogar in Echtzeit, etwa bei einer „konkreten, erheblichen und unmittelbaren Gefahr für das Leben oder die körperliche Unversehrtheit natürlicher Personen oder einer tatsächlichen und gegenwärtigen oder tatsächlichen und vorhersehbaren Gefahr eines Terroranschlags“. Damit bietet das Gesetz Strafverfolgungsbehörden große Schlupflöcher.

SPD-Abgeordnete wollen strengere Regeln

Diese Schlupflöcher stellen aus Sicht von Abgeordneten der SPD eine Gefahr dar. So betont Carmen Wegge (SPD), Mitglied im Innen- sowie im Rechtsausschuss, gegenüber netzpolitik.org an den Vereinbarungen im Koalitionsvertrag festhalten zu wollen. „Biometrische Echtzeit-Fernidentifizierung greift tief in die Grund- und Persönlichkeitsrechte der betroffenen Bürger:innen ein. Daher sollten wir in meinen Augen die biometrische Erkennung im öffentlichen Raum durch KI in Deutschland ausschließen“, so Wegge.

Dem schließt sich ihr Parteikollege Parsa Marvi an. Er ist Berichterstatter der SPD-Bundestagsfraktion für die KI-Verordnung im Digitalausschuss. „Wir werden auf strengere Regeln für den Einsatz biometrischer Fernidentifizierung jeder Spielart hinwirken“, sagt Parsa. Das gebiete nicht nur der Koalitionsvertrag, sondern sei auch im Sinne eines wirksamen Schutzes von Grund- und Persönlichkeitsrechten „der einzig richtige Weg“.

Grüne streben „wasserdichte Regelung“ an

Auch die Grünen streben offenbar weiterhin strenge nationale Regulierungen an. So schreibt Misbah Khan, die für die Grünen im Ausschuss für Inneres und Heimat sowie im Digitalausschuss des Deutschen Bundestags sitzt: „Eine Gesellschaft, in der jede Bewegung, jede Geste und jeder Gesichtsausdruck erfasst und analysiert werden kann, ohne das Wissen oder die Zustimmung der Betroffenen, ist eine Gesellschaft, die ihre fundamentalen demokratischen Werte gefährdet.“ Der nationale Spielraum der KI-Verordnung solle daher genutzt werden, um eine KI-gestützte biometrische Überwachung auszuschließen, so Khan.

Konstantin von Notz sieht ebenfalls Nachjustierungsbedarf – „gerade mit Blick auf die nationale Umsetzung der Regelungen für nationale Sicherheitsbehörden, das gebietet auch unser Verfassungsrecht“. Aus Sicht des stellvertretenden Fraktionsvorsitzenden der Grünen geben die Vereinbarungen des Koalitionsvertrags dabei klar die Richtung vor. „In ihm haben sich SPD, Grüne und FDP unter anderem darauf verständigt, die Anonymität im öffentlichen Raum zu schützen“, so von Notz. „Vor diesem Hintergrund lehnen wir den flächendeckenden Einsatz intelligenter Videoüberwachung und Überwachung durch den Rückgriff auf Biometrie klar ab.“

Auch Tobias Bacherle, grüner Obmann im Ausschuss für Digitales, kritisiert gegenüber Tagesspiegel Background [€], dass die KI-Verordnung den Strafverfolgungsbehörden zu viele Sonderbefugnisse einräume. Die Grünen verfolgten daher das Ziel, „in Deutschland KI-gestützte biometrische Überwachung auszuschließen und eine wasserdichte Regelung zu schaffen.“ Derzeit prüfe seine Fraktion, „welche Option die größte Wirkung hat“, so Bacherle.

FDP-Abgeordnete gegen Echtzeit-Überwachung

Maximilian Mordhorst (FDP), ebenfalls Mitglied im Digitalausschuss, bedauert auf Anfrage zwar, „dass auf EU-Ebene der Weg für die biometrische Echtzeitidentifikation freigemacht wurde“. Seine Fraktion werde „alle Möglichkeiten ausschöpfen, um den Einsatz biometrischen Echtzeitidentifikation im öffentlichen Raum einzugrenzen“, so der Abgeordnete.

Zugleich spricht sich Mordhorst für die nachträgliche biometrische Identifikation aus. Sie sollte jedoch „nur bei Vorliegen einer richterlichen Genehmigung und bei Ermittlungen von schwerwiegenden Straftaten ermöglicht werden“. Aus Mordhorsts Sicht stelle es allerdings „eine immense Bedrohung der Bürgerrechte“ dar, dass nicht genau definiert sei, was „nachträglich“ heißt. Hier brauche es noch klare Vorgaben, so der FDP-Politiker.

Sein Parteikollege Maximilian Funke-Kaiser zeigt sich in dieser Frage derweil deutlicher restriktiver. „Wir sollten uns als westliche Demokratie nicht der Methoden von Autokratien und Überwachungsregimen bedienen“, so Funke-Kaiser. KI-gestützte biometrische Überwachung sei „in jeder Form“ bürgerrechtswidrig.

Der digitalpolitische Sprecher der FDP-Bundestagsfraktion plädiert für „ein vollständiges nationales Verbot von KI-gestützter biometrischer Echtzeit-Identifizierung im öffentlichen Raum“. Es sei dabei nachrangig, ob die Identifikation in Echtzeit oder nachträglich erfolge – „in beiden Fällen öffnen wir dem Missbrauch Tür und Tor“, mahnt Funke-Kaiser gegenüber netzpolitik.org.

Um ein bundesgesetzliches Verbot der Technologie für die Sicherheitsbehörden herbeizuführen, brauche es eine Änderung der Strafprozessordnung. „Im Koalitionsvertrag haben wir uns darauf geeinigt, dass die Verwendung von KI-gestützter Biometrie grundsätzlich untersagt wird und dieses Versprechen muss die Ampelkoalition einlösen“, so der Abgeordnete.

Zivilgesellschaft und BfDI fordern strikte Verbote

Diese Position steht im Einklang mit den Forderungen der digitalen Zivilgesellschaft. Bereits im März hatte mehr als ein Dutzend Digital- und Bürgerrechtsorganisationen – darunter der Chaos Computer Club, Wikimedia und Amnesty International – die Abgeordneten des Deutschen Bundestages dazu aufgefordert, „jede Form der biometrischen Fernidentifizierung zu verbieten“.

Die zivilgesellschaftlichen Organisationen verwiesen auf den Koalitionsvertrag der Ampel. Dort heißt es: „Flächendeckende Videoüberwachung und den Einsatz von biometrischer Erfassung zu Überwachungszwecken lehnen wir ab. Das Recht auf Anonymität sowohl im öffentlichen Raum als auch im Internet ist zu gewährleisten.“

Nachdem ein europarechtliches Verbot der biometrischen Überwachung „nicht vollständig umzusetzen“ war, müsse die Ampel nun mit einem nationalen Verbot gegenhalten. Andernfalls drohten dystopische Verhältnisse, in denen jeder Mensch bei jeder Bewegung im öffentlichen Raum permanent identifizierbar und überwachbar würde.

Den Forderungen schloss sich der scheidende Bundesdatenschutzbeauftragte Ulrich Kelber an. Er empfahl der Bundesregierung, die Möglichkeit der nationalen Anpassungen „im Kontext der biometrischen Fernidentifizierung zu nutzen und striktere nationale Verbote umzusetzen“.