Sao Paulo, Brasilien – Während sich die Stadt São Paulo darauf vorbereitet, Tausende von Überwachungskameras mit Gesichtserkennung einzuführen, äußern Experten Bedenken, dass der wahllose Einsatz dieser Technologie in der brasilianischen Großstadt Probleme wie strukturellen Rassismus und Ungleichheit verschärfen und gleichzeitig Risiken für den Datenschutz mit sich bringen könnte und Cybersicherheit.
Das Smart Sampa-Projekt ist das jüngste einer Reihe von Initiativen, die moderne Überwachungstechniken in verschiedenen brasilianischen Bundesstaaten zum Einsatz bringen. Aufgrund der schieren Größe der davon betroffenen Bevölkerung ist es von Bedeutung: In São Paulo, der bevölkerungsreichsten Stadt der südlichen Hemisphäre, leben 12 Millionen Menschen.
Ziel des Projekts ist die Einführung einer einzigen Videoüberwachungsplattform, die den Betrieb von Rettungs- und Verkehrsdiensten, dem öffentlichen Verkehrsnetz der Stadt und der Polizei integriert und unterstützt. Bis 2024 werden bis zu 20.000 Kameras installiert und ebenso viele Fremd- und Privatkameras in das Netzwerk integriert.
Mit den neuen Kameras kann die Stadt Schulen, Arztpraxen, öffentliche Räume wie Plätze und Parks sowie für die öffentliche Verwaltung relevante Social-Media-Inhalte überwachen.
Die Kombination aus Echtzeitanalyse und Gesichtserkennungstechnologie – die mithilfe von Algorithmen der künstlichen Intelligenz (KI) Gesichter in einem bestimmten Raum erkennt und vergleicht – soll den Prozess der Identifizierung gesuchter Krimineller, gestohlener Autos, vermisster Personen, verlorener Gegenstände usw. beschleunigen Verwaltung des öffentlichen Nahverkehrs in der ganzen Stadt.
„Wir hoffen, den Vertragsabschluss abschließen zu können [for Smart Sampa] so bald wie möglich, da dies die Sicherheit und Mobilität in der Stadt erheblich verbessern wird“, sagte der Bürgermeister von São Paulo, Ricardo Nunes, während der Wiederaufnahme des Ausschreibungsverfahrens im Mai.
In beiden Bereichen sind dringend Verbesserungen erforderlich, und die Beschwerden über übermäßige Wartezeiten von Busbenutzern bei der städtischen Verkehrsbehörde sind im ersten Quartal 2023 um 42 Prozent gestiegen, und Daten der städtischen Sicherheitsbehörde deuten auf einen Anstieg der Überfälle in der Stadt um 35,7 Prozent hin 2023 im Verhältnis zu 2021.
Mit den Echtzeitdaten der Kameras und Algorithmen erwartet die Stadt, Ereignisse schneller vorherzusagen und darauf zu reagieren. Außerdem hofft man, Verkehrsmuster und potenzielle Staupunkte vorhersehen zu können und die gewonnenen Erkenntnisse beispielsweise für die Anpassung von Busfahrplänen zu nutzen.
Trotz der Attraktivität von Fernüberwachungstechnologien zur Lösung der Probleme der Stadt befürchten Kritiker von Smart Sampa, dass das Projekt die grundlegenden Menschenrechte der Bürger verletzen wird, darunter Privatsphäre, Meinungs-, Versammlungs- und Vereinigungsfreiheit.
Diese Bedenken führten zweimal zur Aussetzung des Ausschreibungsverfahrens und führten zu Ermittlungen der Staatsanwaltschaft zu möglichen Projektproblemen, unter anderem in Bereichen wie der Privatsphäre der Bürger.
Der Vertragsabschluss konnte fortgesetzt werden, nachdem die Gerichte in São Paulo zu dem Schluss kamen, dass es nicht genügend Beweise dafür gab, dass das System voreingenommen gegenüber Schwarzen ist. PK9, ein Technologieunternehmen mit Sitz in São Paulo, hat ein monatliches Angebot von 9,2 Millionen brasilianischen Real (1,8 Millionen US-Dollar) abgegeben, um das System über einen Zeitraum von 60 Monaten zu betreiben.
Die Risiken für schwarze Brasilianer
Eines der von Experten hervorgehobenen Hauptprobleme in Bezug auf Smart Sampa betrifft die negativen Folgen, die das System haben könnte, insbesondere für Gruppen wie die schwarze Gemeinschaft, die laut dem brasilianischen Institut für Geographie und Statistik (IBGE) 56 Prozent der brasilianischen Bevölkerung ausmacht. . Experten argumentieren, dass das Projekt das Recht auf Nichtdiskriminierung untergraben und den Grundsatz der Unschuldsvermutung in Frage stellen könnte.
Laut Fernanda Rodrigues, Anwältin für digitale Rechte und Forschungskoordinatorin am Institut für Internet- und Gesellschaftsforschung (IRIS), kann die Gesichtserkennungstechnologie zu Fehlalarmen führen – also dazu, dass das Gesicht einer Person falsch mit einem Bild in der Datenbank abgeglichen wird – und treiben dadurch die Masseninhaftierung schwarzer Menschen voran.
„Neben dem Risiko, dass die an diese Plattformen übermittelten Informationen möglicherweise nicht korrekt sind und das System selbst ausfallen könnte, gibt es ein Problem, das technologischen Auswirkungen vorausgeht, nämlich Rassismus“, sagte Rodrigues.
„Wir wissen, dass das Strafsystem in Brasilien selektiv ist, daher können wir daraus schließen [use of surveillance with facial recognition] „Es geht darum, die Risiken und Schäden für diese Bevölkerung zu erhöhen“, fügte Rodrigues hinzu und verwies auf den hohen Anteil schwarzer Personen in brasilianischen Gefängnissen, die laut Daten des brasilianischen Forums für öffentliche Sicherheit aus dem Jahr 2022 über 67 Prozent der inhaftierten Bevölkerung ausmachen.
Eine vom Zentrum für Studien zu öffentlicher Sicherheit und Staatsbürgerschaft (CESeC) durchgeführte Studie, die landesweit die Auswirkungen des Einsatzes der Gesichtserkennung durch die Polizei überwacht, ergab, dass mehr als 90 Prozent der Personen, die in Brasilien aufgrund von Entscheidungen auf der Grundlage der Gesichtserkennung festgenommen wurden, Schwarze sind. Im Bundesstaat Rio de Janeiro erreichte der Anteil der ungerechtfertigten Verhaftungen, die auf fotografischer Erkennung beruhten und schwarze Personen betrafen, im Jahr 2021 nach Angaben der Public Defenders Chamber von Rio de Janeiro 81 Prozent.
Ein weiteres Problem betrifft die mangelnde Offenheit gegenüber dem Projekt. Als eine der Organisationen hinter der nationalen Kampagne „Take My Face Out of Your Aim“ und anderen Initiativen, die ein Verbot der Gesichtserkennung fordern, sind CESeC und andere gemeinnützige Organisationen an einer Reihe rechtlicher Schritte gegen Regierungen beteiligt, die sich für die Einführung der Technologie entscheiden für städtische Sicherheit und andere Zwecke.
Letztes Jahr veranstaltete das Rathaus von São Paulo in den letzten beiden Augustwochen eine virtuelle öffentliche Konsultation, bei der Experten eingeladen wurden, ihre Ansichten einzubringen, wobei ein einziger Tag für die Beantwortung ihrer Fragen vorgesehen war.
„Die Beteiligung war begrenzt und die gemachten Vorschläge wurden weitgehend ignoriert“, sagte Celina Bottino, Projektleiterin am Institut für Technologie und Gesellschaft von Rio de Janeiro.
Als Reaktion auf den öffentlichen Widerstand wurde die Smart Sampa-Ausschreibung mit einer Studie über die Auswirkungen der Technologie aktualisiert, in der Mängel wie eine hohe Wahrscheinlichkeit von Verzerrungen bei den Gesichtserkennungsfunktionen sowie das Risiko einer unbefugten Nutzung und Offenlegung anerkannt wurden personenbezogener Daten sowie die Wahrscheinlichkeit von Datenschutzverletzungen.
Um diesen Risiken zu begegnen, heißt es in dem Bericht, dass die Plattform nur Erkennungen mit einer Parität von 90 Prozent berücksichtigen würde und alle ausgegebenen Warnungen von geschultem Personal analysiert würden, um Ungerechtigkeiten abzumildern, sowie über ein fortschrittliches Datenschutz- und Zugangskontrollsystem verfügt.
Fordert eine Suspendierung
Die Staatsanwaltschaft von São Paulo hat im Mai gemeinsam mit dem Labor für öffentliche Ordnung und Internet (LAPIN) und Uneafro Brasil eine Zivilklage eingereicht, unterstützt von Rede Liberdade, einem Netzwerk von Juristen, die mit Menschenrechtsorganisationen zusammenarbeiten. Der laufende Fall fordert die Aussetzung des Projekts und einen Stopp des Einsatzes von Gesichtserkennungssystemen für die städtische Sicherheit.
„Gesichtserkennung ist eine komplexe Technologie, deren Aspekte noch nicht vollständig erfasst sind und daher nicht mit einem Ausschreibungsverfahren vereinbar sind [this format] lässt nicht die erforderliche Transparenz und Beteiligung zu. Dies bringt eine Reihe von Risiken für die Grundrechte schutzbedürftiger Bevölkerungsgruppen mit sich, etwa für Schwarze und Transgender-Personen sowie für Kinder“, heißt es in einer Erklärung der Organisationen.
In der Zivilklage wird auch argumentiert, dass es in der Folgenabschätzung an Gutachten und detaillierten Studien zu den potenziellen Schäden der Technologie sowie Möglichkeiten zur Bewältigung der Risiken mangele: „Das Rathaus präsentiert nur spezifische Aspekte zu den Auswirkungen des Smart Sampa-Programms. die selten mit der Zivilgesellschaft und anderen Institutionen diskutiert wurden“, sagt Pflichtverteidiger Surrailly Youssef.
Selbst wenn ein Anbieter bereits ausgewählt wurde, kann der Dienst jederzeit ausgesetzt werden, wenn Verstöße gegen Rechte oder Grundsätze der öffentlichen Verwaltung festgestellt werden, sagt Pflichtverteidigerin Cecilia Nascimento Ferreira.
„Mit der gerichtlichen Maßnahme sollte jedoch vermieden werden, dass öffentliche Gelder für eine rücksichtslose Technologie ausgegeben werden, die angesichts der Komplexität des Dienstes über eine unzureichende Modalität in Auftrag gegeben wurde“, fügt sie hinzu.
Die Regierung von São Paulo reagierte nicht auf Anfragen von Al Jazeera nach einem Interview.
Andernorts in Amerika erklärte Brasiliens Nachbarland Argentinien im vergangenen Jahr den Einsatz von Gesichtserkennung in seiner Hauptstadt Buenos Aires für illegal. In den USA haben mehrere Bundesstaaten ihre Haltung geändert und Gesichtserkennung zur Unterstützung öffentlicher Dienste verboten, auch wenn die Technologie nach wie vor weitgehend unreguliert ist. Andererseits hat die Einführung der Technologie in Ländern auf der ganzen Welt, wie China und Indien, Fortschritte gemacht, wenn auch nicht ohne Kritik.
„Faktoren wie Transparenz und Verantwortlichkeit bei der Anwendung dieser neuen Technologien scheinen von Entscheidungsträgern weltweit vergessen worden zu sein“, sagt Pablo Nunes, Politikwissenschaftler und Koordinator bei CESeC. „Selbst in einem Szenario, in dem es nicht zu einem Verbot kommt, hoffe ich, dass wir in Brasilien minimale Schutzmaßnahmen und Vorschriften für den Einsatz der Gesichtserkennung haben.“