A polícia de Nova Jersey está sob fogo depois de acusar e prender injustamente um suspeito com base em nada mais do que software de reconhecimento facial com defeito que já foi proibido no estado. Agora, o estado está processando.
Policiamento Algorítmico
Nijeer Parks ficou surpreso ao saber em janeiro de 2019 que a polícia da cidade de Woodbridge tinha um mandado de prisão contra ele por uma lista de crimes, incluindo furto em lojas e agressão agravada. Parks disse a NJ Advance Media que nunca tinha estado naquela cidade, mas quando ele foi para a delegacia de polícia, os policiais o prenderam imediatamente.
Mais tarde, ele soube que a polícia o identificou usando o polêmico software de reconhecimento facial da Clearview AI – revelando como o excesso de confiança em algoritmos de policiamento falhos pode efetivamente acusar pessoas inocentes de crimes.
Tecnologia Proibida
Como há tantos problemas com a precisão do software e a maneira como ele obtém imagens das mídias sociais, NJ Advance Media relatou que o procurador-geral do estado de Nova Jersey, Gurbir Grewal, ordenou que os policiais parassem de usar a tecnologia em 24 de janeiro de 2020 – quase um ano depois de Parks foi preso.
Com apenas a correspondência de reconhecimento facial como prova, a polícia interrogou Parks em salas sem câmeras, manteve-o na prisão por dez dias e desencadeou uma batalha legal de um ano que drenou as economias de Parks até que um juiz finalmente disse aos promotores para não voltar a menos eles tinham evidências reais e tangíveis contra ele, de acordo com NJ Advance.
Atirando de volta
Parks já entrou com uma ação de direitos civis contra o diretor de polícia e prefeito de Woodbridge, bem como a promotoria e a prisão do condado de Middlesex.
“A identidade errada foi baseada exclusivamente em software de reconhecimento facial que é ilegal no estado agora e sempre foi conhecido por apresentar falhas”, disse seu advogado Daniel Sexton à NJ Advance Media. “Nenhuma evidência real apoiou as acusações contra meu cliente. Sem impressões digitais ou DNA, sem tipo de sangue.”
Embora a tecnologia tenha sido banida em Nova Jersey – esperançosamente, evitando que mais histórias de terror aconteçam – toda a provação revela o que acontece quando algoritmos defeituosos são deixados para moldar a vida das pessoas sem supervisão.
Publicado em 31/12/2020 10h28
Artigo original:
Estudo original: