Brando Benifei, Experte und Beobachter des Europäischen Parlaments für KI-Gesetze, erklärt Euronews, dass Ungarns Pläne, KI-basierte Gesichtserkennung zu nutzen, um Teilnehmer der Gay Pride zu bestrafen, gegen die EU-Vorschriften verstoßen.

WERBUNG

Digitale Gesichtserkennungssysteme, die Ungarn einsetzen will, um die Teilnehmer des Gay Pride Marsches in Budapest zu verfolgen, verstoßen gegen das EU-Gesetz zur künstlichen Intelligenz und die Datenschutzbestimmungen, so ein italienischer Abgeordneter, der mit der Überwachung des KI-Gesetzes beauftragt ist.

Am vergangenen Dienstag beschloss das ungarische Parlament, den Marsch, der normalerweise im Juni stattfindet, zu verbieten. Damit wurden die Regeln für öffentliche Versammlungen im Freien geändert und denjenigen, die sich nicht an das Verbot halten, Geldstrafen in Höhe von 200.000 Forint (500 Euro) angedroht, wobei sich das Parlament das Recht vorbehält, digitale Gesichtserkennungsinstrumente zur Identifizierung derjenigen einzusetzen, die dagegen verstoßen.

Close advertising

Nach Ansicht des Europaabgeordneten Brando Benifei (Italien/Sozialisten & Demokraten) – einem Ko-Vorsitzenden der KI-Überwachungsgruppe des Europäischen Parlaments, die mit der Überwachung der Umsetzung des KI-Gesetzes beauftragt ist – wäre dies ein klarer Verstoß gegen das neue KI-Gesetz der EU.

“Was Orbán angekündigt hat, ist illegal: Das KI-Gesetz verbietet es, biometrische Kameras zur Identifizierung von Demonstranten einzusetzen. Man kann friedlich protestierende Menschen nicht überwachen, es sei denn, sie stehen in Verbindung mit schweren Verbrechen, wie Mord oder Terrorismus”, sagte Benifei gegenüber Euronews.

Erster großer Test für bahnbrechendes Gesetz, sagt Benifei

Benifei, der auch das KI-Gesetz als Berichterstatter durch das Parlament steuerte, fügte hinzu, dass Unternehmen Gesichtserkennungssysteme in Europa nur verkaufen dürfen, wenn diese Bestimmungen eingehalten werden, andernfalls riskieren sie, ihre Lizenz zu verlieren. Der Abgeordnete forderte die Europäische Kommission auf, sich mit dem Thema zu befassen.

“Wir sind noch dabei, Daten zu sammeln und befinden uns noch in der frühen Phase der Umsetzung des KI-Gesetzes. Aber Ungarn wird der erste große Test für uns sein, und die Kommission sollte hier sehr deutlich sein”, fügte er hinzu.

Tamás Lattmann, EU-Rechtsexperte in Ungarn, stimmte zu, dass die ungarische Verordnung gegen das KI-Gesetz verstößt, indem er in einem Posting in den sozialen Medien die Straftaten aufzählte, die den Einsatz von KI-Werkzeugen rechtfertigen. “In allen anderen Fällen ist ihr Einsatz verboten”, sagte Lattmann.

Benifei fügte hinzu, dass er – unabhängig von der Umsetzung des KI-Gesetzes – der Meinung sei, dass die Verwendung der Gesichtserkennungstechnologie im Zusammenhang mit dem Marsch auch einen klaren Verstoß gegen die Allgemeine Datenschutzverordnung der EU darstellen würde.

Unterscheidung zwischen Echtzeit- und Post-Event-Gesichtsanalyse

Ein Sprecher der Kommission erklärte gegenüber Euronews, dass die Beurteilung der Rechtmäßigkeit im Rahmen des KI-Gesetzes davon abhängt, ob die ungarische Polizei die Gesichtserkennungssoftware in Echtzeit oder nach dem Ereignis für die sogenannte Nachbearbeitung verwendet.*

Die Verwendung der biometrischen Identifizierung von Demonstranten in Echtzeit ist gesetzlich verboten, es sei denn, es besteht eine unmittelbare terroristische Bedrohung, die Suche nach vermissten Personen oder die Untersuchung von schweren Verbrechen mit vorheriger richterlicher Genehmigung, sagte der Sprecher.

“Die biometrische Fernidentifizierung, einschließlich der Gesichtserkennung im öffentlichen Raum, ist eine risikoreiche Anwendung, die Transparenz, Rechenschaftspflicht und Folgenabschätzungen für die Grundrechte erfordert”, sagte der Sprecher und bezog sich dabei auf die Vorschriften zur Identifizierung nach der Veranstaltung, die im August, nach dem geplanten Marsch, in Kraft treten werden.

Euronews hat die ungarische Regierung um eine Stellungnahme zum geplanten Einsatz der Technologie gebeten.

In Ungarn hat das Nationale Kompetenz- und Forschungszentrum das Recht, Gesichtsdaten zu analysieren. Diese Organisation sammelt seit 2015 biometrische Daten von Bürgern aus Personalausweisen und Führerscheinen. Auf Anfrage der Polizei durchsucht ein Algorithmus die Datenbank nach Übereinstimmungen. Ungarischen Medienberichten zufolge könnten die Änderungen an den Vorschriften für öffentliche Versammlungen den Weg dafür ebnen, dass die Gesichtserkennung zur Kontrolle von Themen wie Verkehrsverstößen und Müllentsorgung eingesetzt wird. Experten haben jedoch auch in Frage gestellt, ob die Verwaltung über die technischen Mittel verfügt, um den Pride March überhaupt zu überwachen.

Das KI-Gesetz der EU – das KI-Tools je nach dem Risiko, das sie für die Gesellschaft darstellen, reguliert – trat im vergangenen August in Kraft. Seine Bestimmungen werden schrittweise angewendet: Das Gesetz wird 2027 vollständig in Kraft treten. Jeder EU-Mitgliedstaat muss bis August dieses Jahres eine nationale Regulierungsbehörde einrichten, die die Einhaltung des KI-Gesetzes durch die Unternehmen überwacht. Sie werden mit dem AI-Büro der Europäischen Kommission zusammenarbeiten, das die nationalen Behörden unterstützt.