Inhalt

Auf einer Seite lesen

Inhalt

  1. Seite 1Wenn KI den Zugang zum Internet sperrt


  2. Seite 2Sogar Foren für Elektroautobesitzer sind jetzt geblockt

Der
Mann sieht aus, als trage er eine Maske: Das finden inzwischen nicht
nur Menschen, sondern auch eine künstliche Intelligenz (KI). Der 45-Jährige, der für sich in Anspruch nimmt, der am meisten tätowierte Mann Großbritanniens zu sein, kann keine Pornoseiten im Internet mehr besuchen, seit in seinem Heimatland neue Altersverifikationsregeln gelten. Das sagte er dem britischen Medium Need To Know. Der Grund: Gesichtserkennungssoftware kann nicht mit seinen Gesichtstattoos umgehen. 

Der sogenannte Online Safety Act verpflichtet Plattformen in Großbritannien seit Ende Juli dazu, „hochwirksame“
Altersverifikationssysteme einzusetzen, um Minderjährigen den Zugriff
auf Inhalte wie Pornografie und Gewalt zu untersagen. Pornoplattformen setzen dafür unter anderem KI-Systeme ein. Diese schätzen entweder in einem Live-Videocall anhand von Aufnahmen des Gesichts das Alter einer Person. Oder sie nutzen Gesichtserkennung, die vergleichen kann, ob die Person vor der Kamera auch diejenige ist, die ihren Ausweis zur Altersverifikation hochgeladen hat. 

Diese
KI-Systeme interpretieren seine umfangreiche Gesichts­tätowierung
fälschlich als Maske, klagt der Mann, der seinen Namen offiziell ändern ließ zu King Of Ink Land King Body Art The Extreme Ink-Ite. Die Software habe ihn
wiederholt aufgefordert, „sein Gesicht zu entfernen“, um den
Alterscheck zu bestehen. Das sei Diskriminierung: „Ich fühle mich
bestraft dafür, dass ich ich selbst bin.“ Er sei es zwar gewohnt,
dass sein ungewöhnlicher Name und sein Aussehen gelegentlich bei
Ausweiskontrollen für Probleme sorgen, doch die wiederholte
Aufforderung, seine vermeintliche „Maske“ abzunehmen, sei
besonders frustrierend. 

© ZEIT ONLINE

Newsletter
ZEIT Geldkurs

Vielen Dank! Wir haben Ihnen eine E-Mail geschickt.

Prüfen Sie Ihr Postfach und bestätigen Sie das Newsletter-Abonnement.

Auf den ersten Blick mag das eher wie eine skurrile Folge des neuen Gesetzes erscheinen, das seit 2023 diskutiert wird und nun Schritt für Schritt in Kraft tritt. Tatsächlich haben sich bereits in den ersten Tagen nach Inkrafttreten der neuen Pflichten zur Altersverifizierung verschiedene Probleme
ergeben, die weit darüber hinausgehen, dass einzelne Personen möglicherweise zu Unrecht keine Pornoseiten mehr besuchen können. 

Seit dem 25. Juli müssen nicht nur Pornoseiten
in Großbritannien strenge Alterskontrollen durchführen,
sondern alle, die möglicherweise Inhalte verbreiten, die unter eine
recht weit gefasste Liste fallen. Diese wird im Gesetz als „content that is harmful to children“ zusammengefasst – also Inhalte, die Kindern schaden können. Befürworter erhoffen sich von den strengeren Alterskontrollen, dass Kinder in Großbritannien so vor Pornografie, Gewalt und Hassrede, aber auch vor Inhalten zu Themen wie Selbstverletzung und Essstörungen geschützt werden. 

Websites müssen demnach sicherstellen, dass solche Inhalte keine
Minderjährigen erreichen. Soziale Medien sollen außerdem dafür sorgen, dass ihre Algorithmen entsprechende Inhalte nicht in die Timelines Minderjähriger spülen. Zudem sind sie dazu verpflichtet, Ansprechpersonen für das Thema bereitzustellen und Minderjährigen zu helfen, die auf Basis entsprechender Inhalte Schaden erlitten haben. Auf der Liste werden unter anderem auch diskriminierende
Inhalte
genannt, die sich
gegen Menschen aufgrund von Rasse, Religion, Geschlecht, sexueller
Orientierung, Behinderung oder Geschlechtsangleichung richten. Aufgeführt werden dort des Weiteren Gewalt- und
Misshandlungsdarstellungen
sowie gezieltes
Mobbing, ebenso wie
Anleitungen oder
Ermutigungen zu
gefährlichen Stunts, Selbstverletzungen oder dem Konsum schädlicher
Substanzen.

Altersverifikation als Überwachungsalbtraum

Dass eine solche Altersverifikation zu Problemen führen kann, davor haben in der
Vergangenheit immer wieder Initiativen wie die Wikipedia und die Electronic
Frontier Foundation (EFF) gewarnt: Mit verpflichtenden Verifizierungstools könnte das Internet weitreichend überwacht werden, was auf Kosten von Datenschutz und Meinungsfreiheit ginge, mahnte etwa die EFF. Schließlich bedeutet eine Alterskontrolle für die Nutzerinnen und Nutzer oft, dass sie ihre Ausweisdaten mit US-Techkonzernen teilen müssen.

Zwar lässt die zuständige staatliche Medien- und Telekommunikationsaufsichtsbehörde Ofcom in Großbritannien den Anbietern die Wahl, wie genau sie die Verifikation durchführen. Erlaubt ist neben einem Hochladen des Ausweises sowie einer zusätzlichen Überprüfung der Echtheit und Gültigkeit unter anderem auch die Nutzung von KI-Systemen zur biometrischen Altersschätzung anhand des Gesichts: Die KI kann dann allein aufgrund des Aussehens das Alter schätzen. Entsprechende Systeme sind – zumindest laut den Anbietern – wohl recht gut darin, das Alter relativ genau zu schätzen.

Allerdings muss der Betreiber einer Plattform versichern, dass die Art der Verifikation auch zuverlässig ist – sonst drohen hohe Strafen. Dazu kommt die generelle Unzuverlässigkeit von KI-Systemen, die sich
unter anderem offenbar bei tätowierten Gesichtern zeigt. Zudem
nutzen einige britische Bürger die mangelnde Robustheit von KI, um die Verifikation auszutricksen: Offenbar
lassen sich manche der Systeme auch durch den Fotomodus
des Spiels Death Stranding täuschen, wie The
Verge berichtet. Die in diesem Modus generierten Bilder
sehen offenbar so real aus, dass Systeme künstlicher Intelligenz sie als authentisches
menschliches Gesicht interpretieren.