New Orleans-polisen använde i hemlighet ansiktsigenkänning för att övervaka gatorna i två år

I två år använde New Orleans polis i hemlighet live ansiktigenkänningkameror för att följa misstänkta i realtid, i vad som verkar vara det första programmet av sitt slag i en stor amerikansk stad.

En undersökning av The Washington Post avslöjade att övervakningssystemet, som drivs med hjälp av en privat ideell organisation som heter Project NOLA, utförde offentliga gatuskanningar och skickade mobila varningar till poliser om potentiella matchningar.

Systemet opererade utan allmänhetens vetskap och bröt mot stadens förordning från 2022 som begränsar ansiktsigenkänning till utredningar av våldsamma brott och inte inkluderar generell övervakning.

”Detta är den ansiktsigenkänningsteknikens mardrömsscenario som vi har varit oroliga för,” sade Nathan Freed Wessler från ACLU, som rapporterats av The Post. ”Detta är regeringen som ger sig själv makten att spåra någon – för den delen, alla – när vi går omkring i våra liv ute i offentligheten,” tillade han.

Posten rapporterar att programmet sedan början av 2023 har lett till gripandet av minst 34 individer, inklusive personer som anklagats för icke-våldsamma brott. Poliser nämnde ofta inte användningen av ansiktsigenkänning i rapporter, och ingen av fallen dök upp i avdelningens obligatoriska rapporter till stadsrådet.

Polischef Anne Kirkpatrick stoppade programmet i april efter att en kapten framfört juridiska invändningar. ”Vi ska göra vad förordningen säger […] och om vi upptäcker att vi är utanför dessa saker, kommer vi att stoppa det, rätta till det och hålla oss inom ramarna för förordningen”, sade hon, enligt Posten.

Staden granskar nu hur tekniken användes och diskuterar uppdateringar av förordningen. Kirkpatrick stöder den lagliga implementeringen av ansiktsigenkänningsteknik när den fungerar transparent.

“Kan du ha tekniken utan att kränka och övervaka?” frågade hon, rapporterar The Post. “Ja, det kan du. Och det är det vi förespråkar.”

Det finns inga federala regler som reglerar användningen av ansiktsigenkänning av lokalpolisen. Men kritiker varnar för att tekniken kan leda till felaktiga gripanden och kränkningar av medborgerliga rättigheter, särskilt när den används i hemlighet.

Detta misslyckande att avslöja användning av ansiktsigenkänning vid gripanden skapar stora problem när det gäller rättvisa och transparens över hela USA.

En tidigare undersökning avslöjade mer än 1 000 brottmål i 15 delstater där polisen inte avslöjade att ansiktsigenkänningsteknik användes.

Polisavdelningar undvek typiskt att avslöja användningen av mjukvaran genom att tillskriva insamling av bevis till andra utredningsmetoder eller vittnesmål. Brister i transparens hindrar åtalade från att ifrågasätta potentiellt felaktiga bevis eftersom ansiktsigenkänningssystem har visat sig vara diskriminerande mot personer av färg, kvinnor och äldre vuxna.

Ett liknande fall i Detroit väckte nationell uppmärksamhet efter att Robert Williams felaktigt arresterades 2020 på grund av felaktig ansiktsigenkänning. Hans stämning ledde till nya polisregler som kräver oberoende bevis utöver algoritmiska matchningar. Reformerna syftar till att förhindra felaktiga arresteringar och ta itu med rasbias i AI-system.