Screenshot aus einem Video des Fraunhofer-Instituts zu KI-Kameras in Mannheim. Die Gefilmten werden für die Bewegungsanalyse »skelettiert«.
Foto: Fraunhofer IOSB
Die Hamburger Polizei sagt, die Kameras mit Künstlicher Intelligenz am Hansaplatz dienten nicht der Überwachung, sondern der Erkennung von Gefahrensituationen. Sehen Sie das auch so?
Solche Formulierungen sollen die negative Besetzung des Begriffs Überwachung vermeiden. Auch die Polizei in Mannheim spricht von »Videoschutz«. Ich verstehe unter Überwachung die Beobachtung von Menschen oder Umgebungen in asymmetrischen Sichtbarkeitsverhältnissen. Bei konventioneller Videoüberwachung sehen wir die Kamera, aber nicht, ob Beamt*innen am Monitor uns gerade beobachten – das soll disziplinieren. Bei algorithmischer Überwachung verschiebt sich das: Der symbolische Aspekt der Selbstdisziplinierung tritt zurück, aber die Asymmetrie bleibt, weil ich das Funktionieren des Algorithmus nicht beobachten kann.
Ziel der KI-Kameras ist es, alle Menschen im erfassten Bereich permanent zu erfassen und ihr Verhalten zu analysieren – das steigert den Umfang von Erfassung und Auswertung gegenüber menschlicher oder konventioneller Überwachung massiv. Das gilt meines Erachtens für alle algorithmischen Überwachungstechnologien, ob visuell, textbasiert oder anderweitig. Es ist eine neue Ökonomie der Kontrolle.
Können Sie kurz die Technologie beschreiben? Bei KI-Kameras denken viele an Gesichtserkennung – darum geht es der Polizei in Hamburg und Mannheim sowie bald in Berlin aber nicht.
Erkannt werden bestimmte, von Polizei und Entwickler*innen vordefinierte Bewegungen: Liegen, Fallen, Taumeln, Treten, Schlagen – Bewegungen, die mit Straftaten assoziiert werden. Die Technik wandelt Videodaten in sogenannte Skelette, also Vektoren, um, analysiert diese auf die Bewegungsmuster hin und generiert einen Hinweis an die Polizei.
Interview
privat
Philipp Knopp ist wissenschaftlicher Mitarbeiter an der Technischen Universität Chemnitz. Im Forschungsprojekt LoKI untersuchte er im Jahr 2023 gemeinsam mit einem Team der Universität Hamburg die lokalen Konflikte rund um den Test der KI-Überwachung in Hamburg.
Wenn die Aufnahmen anonym sind, ist das dann überhaupt Überwachung?
Überwachung heißt nicht nur Identifizierung. Auch Verhaltensmuster zu erkennen, ist ein Zweck von Überwachung. Anonymität hieße, dass eine Re-Identifizierung unmöglich ist. Die Skelette sind aber mit den Menschen auf dem Platz verknüpft. Die Beamt*innen bekommen etwaige Hinweise dann in Form normaler Videosequenzen zu sehen. Die Videos werden derzeit weiterhin für bestimmte Fristen und für die Strafverfolgung gespeichert.
Diese Mustererkennung in Videodaten wurde schon 2017 am Berliner Bahnhof Südkreuz getestet. Was ist neu, wenn das mit KI passiert?
Neu ist, wie das Verfahren gerechtfertigt wird: als angeblich besonders datenschutzsensibel, wodurch eine Art »gute Überwachung« legitimiert wird. Das ermöglicht eine neue politische Konstellation: Datenschutzbeauftragte und Grüne gaben grünes Licht, und in Hamburg, inzwischen auch Berlin, Sachsen und Baden-Württemberg wurde die Polizeigesetzgebung geändert, damit die Polizei Daten fürs KI-Training erheben und an externe Entwickler*innen weiterleiten darf. Mit diesen Gesetzen wird sie zu einer Art Gatekeeper für KI-Entwicklung im Sicherheitsbereich.
Wird man informiert, dass die Daten an Private übermittelt werden können, wenn man einen videoüberwachten Platz betritt?
Man wird über ein Schild mit einem QR-Code informiert, dass der Platz mit KI videoüberwacht wird. Aber man wird unseres Wissens nicht darüber informiert, ob konkrete Videosequenzen mit der eigenen Person für das KI-Training extrahiert und weitergeleitet werden.
Eine Kritik am Südkreuz-Projekt waren die vielen Fehlalarme. Was weiß man zum Hansaplatz?
Genaue Werte wurden nicht veröffentlicht, auch auf unsere Anfrage hin nicht. Über »Frag den Staat« kam aber der Evaluationsbericht der Polizei Hamburg zum dreimonatigen Test 2023 heraus: Es gab etwa einen Hinweis pro Stunde. Elf von zwölf als polizeilich relevant eingeschätzte Situationen wurden erkannt, davon nur eine mit strafrechtlicher Folge. Wenn man die Hinweise auf die drei Monate hochrechnet, kommt man auf mehr als 1000 Alarme. Ein Prozent der Situationen war »polizeilich relevant«, 0,1 Prozent »strafrechtlich relevant«.
Ihr Projekt fragte auch, was die Technologie mit Menschen im öffentlichen Raum macht. Was ist das wichtigste Ergebnis?
Mit »Öffentlichkeit« meinen wir vor allem die politische Debatte, weniger die Auswirkungen auf das Verhalten der Menschen vor Ort – dort haben wir nur wenige, kurze Interviews geführt und sehr heterogene Positionen gefunden. Manche, auch marginalisierte Personen, befürworten die Technik. Andere sprechen am Hansaplatz nicht mehr mit weißen Personen, aus Angst, für Dealer*innen gehalten und kontrolliert zu werden. Wieder andere erleben den Platz als Testfeld für polizeiliche Maßnahmen und verstehen zum Beispiel nicht, warum plötzlich vier statt zwei Beamt*innen auftauchen.
Es gibt aber auch klare Befürworter*innen: In einem NDR-Interview sagte jemand, nahe einem Kindergarten seien immer wieder Drogennutzende oder Wohnungslose anzutreffen und die KI verspreche, diese Menschen übers Erkennen des Liegens zu vertreiben.
Inwiefern ist Gentrifizierung ein Motor für die KI-gestützte Kameraüberwachung?
Der Hansaplatz bewegt sich seit Jahrzehnten im Spannungsfeld zwischen Verelendung und Gentrifizierung: Immer mehr gehobene Gastronomie, gleichzeitig Treffpunkt für Wohnungslose, Drogennutzende, Trinker*innen und andere marginalisierte Gruppen und da gibt es natürlich Raumnutzungskonflikte. Geschäftstreibende und Restaurantbetreiber*innen befürworteten die Technik eher, wenn auch ohne statistische Belastbarkeit. Für die Standortwahl der Polizei zentral war vor allem vorhandene Infrastruktur: gute Kameraabdeckung und die rechtliche Erlaubnis, dort zu testen, was andernorts nicht möglich wäre.
Auch der Hamburger Datenschutzbeauftragte wurde zur KI-Überwachung einbezogen. Welche Kritik hat er geäußert?
Die ist eher formeller Natur: Es ging um die fehlende Gesetzesgrundlage für die Datenweitergabe, die inzwischen für die zweite Phase geschaffen wurde. Unser Eindruck ist, dass die Datenschutzbeauftragten in Baden-Württemberg und Hamburg ihre Bewertung auf Zukunftsversprechen von Polizei und Entwickler*innen stützen: die Annahme, dass irgendwann keine Menschen mehr vor den Bildschirmen sitzen, sondern nur alarmiert werden, wenn es eine Detektion gibt und es damit eine datenschutzsensible Überwachung geben könnte.
Diese Versprechen sind aber vage. Auch innerhalb der Polizei wird das nicht als realistisch angesehen. Auf dem Weg dorthin sind viele Datenopfer nötig: In Mannheim wurden bereits 2000 Videos für das Training erstellt, 10 000 sind geplant.
Die EU hat eine KI-Verordnung erlassen, die Hochrisiko-Anwendungen unter strenge Bedingungen stellt. Betrifft das auch polizeiliche Software wie die in Hamburg?
Ich bin kein Jurist, aber Polizei und Entwickler*innen argumentieren, es sei keine Hochrisiko-Software, weil keine Identifizierung stattfinde. Der Chaos Computer Club sieht das anders.
Warum?
Weil die Technologie trotzdem biometrisch und potenziell zur Identifizierung oder zum Tracking nutzbar ist.
Wer hat die Technologie entwickelt und was weiß man über ihre Funktionsweise?
In Hamburg wie in Mannheim entwickelt ein Fraunhofer-Institut die KI. Die Polizei ist stark eingebunden, indem sie Daten extrahiert und zum Training der Algorithmen weiterleitet. Berlin nutzt eine Technik von einem privaten Unternehmen.
Kennen Sie weitere Städte mit Interesse an dieser Technologie?
Baden-Württemberg will den sogenannten Mannheimer Weg der algorithmischen Videoüberwachung landesweit ausweiten. Am Frankfurter Hauptbahnhof soll neben Gesichtserkennung auch Bewegungserkennung getestet werden. Sachsen hat sein Polizeigesetz bereits angepasst, um Verhaltenserkennung wie auch das Training solcher Systeme zu ermöglichen.
Zugegebenermaßen eine reformistische Frage: Wie könnte ein verantwortungsvoller Umgang der Polizei mit dieser Technologie aussehen?
Es gab kaum ernsthafte Auseinandersetzung mit Technikfolgen, sondern die Technik wurde anhand ihrer Versprechen bewertet. Die Akzeptanz im Testbetrieb wurde vor allem am – von der Polizei selbst geprägten – Medienecho gemessen. Unsere Diskursanalyse zeigt: Überwiegend kommen Polizei und Innenministerium zu Wort, kritische Stimmen kaum. Nötig wäre eine ernsthafte ethische und sozialwissenschaftliche Bewertung, die kritische Positionen tatsächlich einbezieht, anstatt nur rhetorisch zu antworten. Man sollte nicht die Technik als Lösung voraussetzen, bevor das Problem analysiert ist. Am Hansaplatz ist die Polizei ohnehin fast permanent vor Ort, echte Sicherheitsgewinne sind deshalb fraglich.
Es ging in Ihrem Projekt auch um Handlungsmöglichkeiten für lokale Initiativen. Welche sind das?
Ein Ratschlag ist zu fragen: Was macht die Technologie jetzt, nicht in der Zukunft? Löst sie wirklich die Probleme vor Ort? Diese scheinbar naive Frage ist zentral, denn die Rechtfertigung der Überwachung changiert ständig zwischen Gegenwart und Zukunft. Die Algorithmen werden potenziell immer machtvoller, können verändert oder mit anderen Methoden gekoppelt werden. Es lohnt sich deshalb zu prüfen, ob die Versprechungen schon heute eingelöst werden.
Was ist die Antwort für den Hansaplatz auf diese Fragen?
Unser Eindruck ist, dass der Platz vor allem deshalb mit KI überwacht wird, weil man die Technik dort testen und weiterentwickeln kann und gelegentlich ein relevantes Ereignis auftritt. Das Versprechen »mehr Sicherheit« rückt dabei in den Hintergrund. Für die Hamburger Polizei ist der Hansaplatz ein Experimentierfeld. Steigende Kriminalität ist für den KI-Einsatz nicht das drängende Problem.
Sie gehen in Ihren Handreichungen auch auf stadt- und klimaökologische Effekte ein. Welche sind das bei KI-Kameras?
Allgemein verbraucht KI-Training viel Elektrizität und Wasser. Für Videoüberwachung ist aber auch ein möglichst freies Sichtfeld nötig. Die Polizei versucht das permanent zu optimieren, indem Kamerapositionen ohne Sichtbarrieren gesucht werden. Bäume, Bänke oder schattenspendende Installationen werden schnell als Störungen betrachtet. Das kann in Konflikt mit Hitzeanpassung und Begrünung geraten.
Einer Ihrer Tipps für lokale Initiativen sind Anfragen bei Polizei und Behörden zu der Technik. Müssen diese überhaupt antworten?
In Hamburg hat vor allem die Arbeit von parlamentarischer Opposition und zivilgesellschaftlichen Initiativen Informationen zutage gefördert: Parlamentsanfragen muss die Regierung beantworten. Eine Anfrage über »Frag den Staat« brachte außerdem den Evaluationsbericht. Bei den Fehlerquoten hält sich die Polizei dagegen bedeckt. Unsere Bewertungsmatrix empfehlen wir auch, um solche Hindernisse sichtbar zu machen.
Was raten Sie Berliner Initiativen, etwa am Kottbusser Tor, die sich kritisch mit der geplanten KI-Überwachung befassen?
Aus Hamburg lässt sich lernen: Es ist ein Marathon, kein Sprint. Man muss schauen, mit wem man kooperieren kann. Der parlamentarische Diskurs wirkte in Berlin zuletzt etwas offener als in Hamburg. Außerdem können KI-Instrumente neue Möglichkeiten des Widerstands hervorbringen – in Mannheim gab es Tanz-Performances, die zeigten, dass die erkannten Bewegungsmuster keineswegs mit Straftaten übereinstimmen. So wird die grundlegende Annahme hinter der Bewegungserkennung hinterfragt.