jun 29

Sistema de reconhecimento facial de Detroit erra em 96% dos casos

Dados vem da própria polícia da cidade, que ainda assim defende o uso da tecnologia alegando que ela pode ajudar os investigadores

Durante uma reunião pública nesta segunda-feira o chefe de polícia de Detroit, James Craig, admitiu que a tecnologia de reconhecimento facial usada pela polícia da cidade, desenvolvida por uma empresa chamada DataWorks Plus, “quase nunca” traz uma correspondência exata com a imagem de um suspeito, e “quase sempre” identifica incorretamente as pessoas.

“Se usássemos apenas o software para identificar suspeitos, não resolveríamos o caso em 95 a 97% das vezes”, disse Craig. “Isso se confiássemos apenas no software, o que é contra nossa política atual. Se usássemos apenas a tecnologia, sozinha, para identificar alguém, eu diria que em 96% dos casos a identificação seria incorreta”. É um índice pior do que o da polícia de Londres, onde o software erra em 81% dos casos.

O uso da tecnologia de reconhecimento facial pela polícia de Detroit veio à tona após o caso de Robert Julian-Borchak Williams, um homem que foi preso após ser erroneamente “reconhecido” pelo software, ganhar notoriedade graças a um artigo no The New York Times. Ao interrogar Williams, os policiais rapidamente perceberam que ele não se parecia em nada com o suspeito fotografado no local do crime.

Como resultado da imprecisão, cidadãos que não tem nada a ver com um crime são questionadas e investigadas pela polícia. Em Detroit, isso significa quase que exclusivamente negros.

Segundo relatórios da própria polícia, até a última segunda-feira (22) a tecnologia foi usada 70 vezes, e em 68 delas a foto inserida no sistema foi de um negro. Em dois outros casos a etnia não foi identificada. Em 31 dos 70 casos as fotos foram retiradas de redes sociais, e em 18 dos 70 casos elas vieram de câmeras de segurança.

Sistemas de reconhecimento facial estão sendo amplamente usados por forças de segurança em todo o mundo. Foto: Reuters

Várias cidades nos EUA estão banindo o uso de software de reconhecimento facial pela polícia. Em 2019 Detroit decidiu regular, em vez de impedir, o uso da tecnologia. A polícia local ficou proibida de “vigiar o público através de qualquer câmera ou dispositivo de vídeo” e não pode usar a tecnologia em vídeos ao vivo ou gravados. Seu uso é restrito, mas não proibido, em protestos, e apenas como parte de uma investigação criminal em andamento.

Todd Pastorini, gerente geral da DataWorks Plus, disse à Motherboard que sua empresa não mantém estatísticas sobre a precisão de seu software quando usado no “mundo real”, e que não fornece instruções específicas sobre seu uso para os departamentos de polícia.

O executivo afirma que a tecnologia está sendo demonizada pela mídia, e compara seu uso ao de uma pá “você pode usá-la para tirar terra do chão, ou como uma arma”, diz ele. Segundo Pastorini, o problema é a qualidade das imagens usadas como ponto de partida para buscas no sistema.

O executivo compara seu software a um sistema automático de identificação de impressões digitais, que retorna dezenas ou centenas de possíveis correspondências. “Ele não traz apenas um candidato”, disse ele, “traz centenas. O peso de cada probabilidade é calculado como em um sistema de impressões digitais, de acordo com as imagens de partida e o que está no banco de dados”.

O Capitão Ariq Tosqui, da Polícia de Detroit, diz que gostaria de continuar a usar reconhecimento facial, pois a tecnologia pode ser usada para auxiliar os investigadores mesmo que não leve a uma prisão. Mas admite que, nas 185 vezes em que ela foi usada nos últimos anos, “na maioria dos casos os detetives relataram que o software não foi útil”.

FONTE: https://olhardigital.com.br/fique_seguro/noticia/sistema-de-reconhecimento-facial-de-detroit-erra-em-96-dos-casos/102778