Die Pariser Polizei setzt vor Taylor-Swift-Konzerten eine umstrittene KI-gestützte Videoüberwachung ein

Die französische Polizei setzt an zwei Pariser U-Bahn-Stationen eine Videoüberwachung mit künstlicher Intelligenz (KI) ein, die von Fans genutzt wird, die Konzerte des Pop-Superstars Taylor Swift in der Stadt besuchen.

Das Dekret, das Anfang dieser Woche von der Polizeipräfektur der Hauptstadt veröffentlicht wurde, rechtfertigte den Einsatz der umstrittenen Technik damit, dass „diese Konzerte im aktuellen Kontext Ereignisse sind, die besonders dem Risiko terroristischer Akte ausgesetzt sind“.

Der Einsatz wird eine Woche lang vom 7. bis 14. Mai an den U-Bahn-Stationen Nanterre Préfecture und La Défense Grande Arche dauern, die beide die Pariser La Défense Arena bedienen.

Ein Gesetzentwurf, der den Einsatz KI-gesteuerter Überwachung erlaubt, wurde im Mai 2023 im Vorfeld der Olympischen Spiele 2024 in Paris in diesem Sommer in einem beschleunigten Verfahren von der französischen Assemblée Nationale und dem Senat verabschiedet.

Mehrere Experten haben jedoch bereits Bedenken hinsichtlich des Einsatzes der Technologie geäußert.

Was ist KI-gestützte Videoüberwachung?

Die als „algorithmische Videoüberwachung“ („vidéosurveillance algorithmique“ auf Französisch, oder VSA) bekannte Technik umfasst die Verwendung einer KI-gestützten Algorithmussoftware, um die von Überwachungskameras kommenden Videoübertragungen in Echtzeit zu analysieren.

Diese Aufgabe würde normalerweise viel mehr Ressourcen erfordern, wenn sie von einem Team von Menschen erledigt werden müsste, da sie ständige Aufmerksamkeit erfordert.

Der Algorithmus ist darauf ausgelegt, verdächtiges Verhalten zu erkennen und einen Alarm auszulösen, beispielsweise wenn ein Koffer zurückgelassen wird.

Allerdings verwenden diese Arten von Überwachungsgeräten „kein biometrisches Identifikationssystem, verarbeiten keine biometrischen Daten und nutzen keine Gesichtserkennungstechniken“, so der französische Rechtsrahmen.

Einige Kritiker, darunter die französische Interessenvertretung, lehnen Techniken wie VSA jedoch ab Die Quadratur des Netzes das Zweifel an seiner Effizienz bei der Sicherung einer Veranstaltung wie den Swift-Konzerten oder den Olympischen Spielen geäußert hat.

„Da die algorithmische Videoüberwachung mit maschinellem Lernen funktioniert, braucht man vergangene Situationen, um dem Algorithmus beizubringen, solche Situationen in der Zukunft zu erkennen. Aber wir haben keine sehr großen Mengen an Bildern von Terroranschlägen oder Menschenmengenbewegungen“, sagt Bastien Le Querrec , ein für die Gruppe arbeitender Rechtsexperte, sagte gegenüber Euronews Next.

„In Wirklichkeit sehen wir, dass diese Technologie bei sehr geringer Kriminalität entwickelt, trainiert und effektiv ist.“

Warum ist es umstritten?

Für ihre Gegner birgt die algorithmische Überwachung Risiken für die individuellen Freiheiten und Rechte des Einzelnen.

„Was wir seit 2019 sagen, ist, dass diese algorithmische Videoüberwachung ein höheres und fast absolutes Überwachungsniveau darstellt“, sagte Le Querrec.

„Durch die Automatisierung dieser Überwachung verzehnfachen wir ihre Wirkung. Überwachung hat sehr starke Auswirkungen auf die Grundfreiheiten“, fügte er hinzu und erwähnte die möglichen Auswirkungen auf die Meinungs-, Vereinigungs- und Vereinigungsfreiheit.

Nicht nur der Verband macht sich Sorgen um das System. Die NGO Amnesty International France sagte in einer Erklärung, dass die Technologie auf der Erhebung personenbezogener Daten basiere „bezüglich Datenschutzrechten“.

„Algorithmische Videoüberwachung birgt die Gefahr der Stigmatisierung bestimmter Personengruppen und die Gefahr der Diskriminierung“, fügte die NGO hinzu.

Le Querrec äußerte ähnliche Bedenken, beispielsweise hinsichtlich der Verwendung zur Diskriminierung von Obdachlosen.

Gegner befürchten auch, dass der Einsatz KI-gestützter Videoüberwachung keine vorübergehende Maßnahme sein wird.

Das Gesetz von 2023 erlaubt die Verwendung für die Olympischen und Paralympischen Spiele in Paris, sieht aber auch die versuchsweise Verwendung bei Sport- und Kulturveranstaltungen bis zum 31. März 2025, sechs Monate nach Ende der Spiele, vor.

Allerdings hat die französische Ministerin für Sport und Olympische Spiele, Amélie Oudéa-Castéra, bereits signalisiert, dass die Regierung ihre Nutzung für Veranstaltungen weit in die Zukunft ausweiten könnte, „wenn sie …“ [the technology] beweist, dass es sich lohnt.“

„Das Gesetz über die Olympischen Spiele ist der erste Schritt zur Legalisierung der KI-gesteuerten Videoüberwachung“, sagte Le Querrec und fügte hinzu, dass bereits ein Gesetzentwurf diskutiert werde, der den Einsatz dieser Videoüberwachung in öffentlichen Verkehrsmitteln vorsehe.

Im offiziellen Gesetzestext heißt es, es sei geplant, „algorithmische Verfahren einzusetzen, um von den Gerichten angeforderte Bilder auszuwählen und zu exportieren“.

Daten werden ein Jahr lang gespeichert

Seit der Verabschiedung des Gesetzes wurde die KI-gestützte Videoüberwachung sporadisch bei Großveranstaltungen wie Konzerten und Fußballspielen in Frankreich eingesetzt und getestet.

In Paris werden die technischen Aspekte der Firma Wintics – einem der Start-ups, die von den Überwachungsverträgen des Innenministeriums profitieren – und ihrer Software Cityvision übertragen.

Für jede Nutzung der Technologie muss die entsprechende Präfektur ein Dekret veröffentlichen.

Mehrere Stimmen wiesen jedoch darauf hin, dass die Polizei mit der so späten Veröffentlichung – einen Tag vor ihrem Einsatz – versuche, rechtliche Anfechtungen so weit wie möglich zu vermeiden.

„Menschen, die Konzerte von Taylor Swift besuchen, können keine rechtlichen Schritte einleiten, wenn sie der Meinung sind, dass diese Anordnung rechtswidrig ist und geschützte Rechte oder Grundfreiheiten unverhältnismäßig verletzt“, sagte Le Querrec.

„Es gibt eine Art Organisation der Straflosigkeit seitens des Polizeipräfekten.“

Die Pariser Polizeipräfektur reagierte jedoch nicht sofort auf die Bitte von Euronews Next um einen Kommentar sein Dekret gibt an, dass Cityvision vom Innenministerium „die Einhaltung der Vorschriften bescheinigt wurde“ und dass die Agenten „eine Schulung zum Schutz personenbezogener Daten erhalten haben“.

Die Daten würden ein Jahr lang gespeichert, heißt es in der Polizeiverordnung weiter.