Pela primeira vez, um algoritmo de inteligência artificial de reconhecimento facial de policiamento levou a uma prisão indevida após a identificação incorreta de um homem inocente como criminoso.
Robert Julian-Borchak Williams foi preso em janeiro, depois que a polícia de Detroit disse para ele se entregar, relata o The New York Times. Quando Williams chegou à delegacia, ele foi preso porque a IA de reconhecimento facial determinou que ele era a pessoa vista nas imagens de vigilância de um furto em 2018. Era uma clara incompatibilidade – mas Williams ainda tinha que passar 30 horas na prisão por causa de uma dependência excessiva de IA defeituosa.
Erros automatizados
Os críticos do reconhecimento facial há muito argumentam que não é sofisticado o suficiente para identificar suspeitos de maneira confiável – especialmente de fotos de vigilância granuladas, informa o NYT. Os desenvolvedores de reconhecimento facial alertaram repetidamente contra o uso de sua tecnologia como única base para uma prisão, mas parece ter sido a única evidência usada contra Williams.
Por exemplo, o software que a polícia de Detroit usou para identificar erroneamente a Williams exibe resultados ao lado do seguinte aviso, de acordo com o NYT: “Este documento não é uma identificação positiva. É apenas uma pista de investigação e não é provável causa de prisão.”
Ponto final inevitável
Embora Williams tenha sido libertado após pagar a fiança e o caso tenha sido julgado improcedente, sua prisão aponta para um problema muito maior de a polícia usar algoritmos não confiáveis.
“Eu suspeito fortemente que este não seja o primeiro caso a identificar mal alguém para prendê-lo por um crime que não cometeu”, disse Clare Garvie, advogada da Universidade de Georgetown, ao NYT. “Esta é apenas a primeira vez que sabemos sobre isso.”
Publicado em 25/06/2020 21h45
Artigo original:
Estudo original:
Achou importante? Compartilhe!
Assine nossa newsletter e fique informado sobre Astrofísica, Biofísica, Geofísica e outras áreas. Preencha seu e-mail no espaço abaixo e clique em “OK”: