O que vem a ser um indivíduo suspeito? É justo que sistemas de segurança emitam alertas após identificarem um sujeito “diferenciado” na região, a partir de reconhecimento facial? Caso sim, quais os critérios definidos para isso? São três perguntas fundamentais para qualquer sistema de monitoramento.
Recentemente, houve um vazamento de dados onde foram expostos os planos da divisão de câmeras de vigilância da Amazon para o combate ao crime. As informações detalhavam os usos do software de reconhecimento facial e sua rede cada vez maior de câmeras de segurança doméstica para criação de “listas de observação” em bairros familiares. Divulgados pelo The Intercept, os materiais apresentam um sistema ininterrupto de monitoramento, no qual um proprietário de câmeras Ring seria, automaticamente, alertado quando um indivíduo considerado “suspeito” fosse capturado no quadro de sua câmera.
No entanto, ainda não está claro quem teria acesso a essas supostas listas de observação de bairro, caso sejam implementadas ou, ainda, como seriam desenvolvidas. Os documentos apresentados se referem ao auxílio à aplicação da lei. Além disso, a Ring estabeleceu parcerias com departamentos de polícia dos EUA , aumentando as chances de que estas listas poderiam ser usadas nas atividades de autoridades locais.
Sobre o tema, o porta-voz do Ring, Yassi Shahmiri, afirmou que “os recursos descritos não estão em desenvolvimento ou em uso e a Ring não usa a tecnologia de reconhecimento facial.” Após o comunicado, o funcionário da Ring não respondeu outras perguntas adicionais, não explicando, por exemplo, o que viria a ser um suspeito para o sistema.
Com as sérias alegações apresentadas, em resposta à pressão do noticiário e uma lista de perguntas enviadas pelo senador americano Massachusetts, Ed Markey, a Amazon admitiu que o reconhecimento facial foi um “recurso contemplado, mas não lançado” para Ring.
Mais funções da Ring
De acordo com os documentos, além do sistema de observação baseado em reconhecimento facial, a empresa também planejou outros recursos de vigilância potencialmente invasivos para sua linha de produtos. A Ring trabalhou com um recurso de alerta para atividade suspeita que notificaria os usuários através de mensagens no app sobre a presença de indivíduos “suspeitos”, caso aparecessem próximos a suas propriedades.
Outro recurso estudado é a adição de uma “correspondência proativa de suspeitos”, descrito de maneira a sugerir a capacidade de identificação automática de pessoas suspeitas – sem se entender os detalhes deste algoritmo – para clientes Ring e, possivelmente, autoridades locais, com base em imagens. Além disso, a empresa estimula que seus usuários a compartilhem informações extrajudiciais e valiosas à polícia através de seus canais, em troca de descontos em seus produtos, como relatado.
Questões éticas
Pesquisadores e especialistas da área jurídica já estão alertando há anos sobre os riscos das tecnologias de reconhecimento facial e de aprendizado de máquina, porque são suscetíveis a preconceitos raciais e, em muitos casos, podem amplificar e propagar ainda mais os preconceitos.
Mohammad Tajsar, advogado da União Americana das Liberdades Civis, expressou preocupação com os estudos da Ring em criar listas de observação de reconhecimento facial. O advogado teme que “dar aos departamentos de polícia e aos consumidores acesso aos recursos de ‘lista de observação’ nos dispositivos Ring incentive a criação de uma linha vermelha digital em bairros locais, onde policiais, em conjunto com proprietários céticos, permitem que as máquinas criem listas de indesejáveis, indignos de entrada em áreas prósperas.”
Antecedentes
Antes conhecida apenas por sua linha de câmeras de campainha conectadas à Internet, comercializadas entre aficionados por tecnologia, a Ring se transformou, em poucos anos, em uma empresa referência na área de vigilância privatizada, repleta de polêmicas.
No início deste ano, foi divulgado um vídeo vazado de um portal interno da empresa, que a Ring construiu para o uso de policiais, onde os profissionais teriam acesso a imagens de clientes. Outra leva de vazamentos apresentou e-mails internos da companhia, em que executivos descreviam suas funções como em uma guerra da empresa contra criminosos.
Também há relatos de que a Ring, em determinadas situações, realizava o reconhecimento facial de maneira manual. Para isso, trabalhava com funcionários remotos da Ucrânia, que marcavam manualmente pessoas e objetos encontrados nas gravações dos clientes.
A partir dos últimos pronunciamentos e acontecimentos, a Ring sustenta que apenas ladrões e possíveis criminosos devem se preocupar com a rede de vigilância da empresa e o app Neighbours. Resta saber, agora, quem a empresa entenderá como suspeitos.
FONTE: CANAL TECH