ago 04

Fawkes: conheça método que engana sistemas de reconhecimento facial

Tecnologia desenvolvida pela Universidade de Chicago embaralha os pixels das fotos e dificulta o uso de algoritmos

Atualmente, precisamos tomar diversas precauções para que nossas imagens publicadas nas redes sociais não caiam nas mãos de alguma empresa obscura de mineração de dados, de autoridades governamentais ou de ambos.

Em compensação, saber como essas empresas são desonestas levou muitas pessoas a criar métodos novos e criativos para escapar desse tipo de vigilância. Alguns deles, como usar máscaras ou pintar o rosto, teoricamente podem impedir o roubo de suas fotos, mas ao custo de modificar muito sua aparência. Agora, uma equipe da Universidade de Chicago criou uma tática muito mais sutil, porém funcional, para driblar esse algoritmo de espionagem.

O sistema foi apelidado de “Fawkes” – uma homenagem à máscara de Guy Fawkes que virou símbolo do grupo Anonymous. Os pesquisadores começaram a trabalhar nele no final do ano passado, com o objetivo de frustrar empresas como a Clearview AI, que criam grandes bancos de dados de rostos raspando dados de posts públicos em redes sociais.

“Acreditamos que a Clearview AI provavelmente seja apenas a ponta (bastante grande) do iceberg”, escreveram os pesquisadores. “Se pudermos reduzir a precisão desses modelos para torná-los não confiáveis ou forçar os proprietários a pagar custos significativos por pessoa para manter a precisão, já seria um sucesso”.

Quando uma companhia de reconhecimento facial como a Clearview AI é treinada para reconhecer a aparência de uma determinada pessoa, esse reconhecimento acontece quando o sistema faz a ligação entre uma foto de um rosto (como uma foto de perfil do Facebook) e outra imagem desse mesmo rosto (a foto de um documento, por exemplo) e encontra semelhanças entre as fotos.

Segundo a equipe de Chicago, isso não significa apenas encontrar geometria facial, cor de cabelo ou marcas na pele correspondentes. É necessário também identificar relações invisíveis entre os pixels que compõem uma imagem dessa face gerada por computador.

Fotos originais (esq.) foram levemente modificadas com o Fawkes (dir.) para enganar softwares de reconhecimento facial. Imagem: Universidade de Chicago

Você ainda seria capaz de reconhecer esse rosto mesmo se trocarmos ou distorcermos alguns desses pixels, mas os algoritmos de reconhecimento facial mais famosos entenderiam isso como uma pessoa completamente diferente. Essa técnica de “camuflagem”, segundo a pesquisa, conseguiu enganar os sistemas usados por AmazonMicrosoft e Google em 100% das tentativas.

O Fawkes foi disponibilizado gratuitamente para download no site da Universidade de Chicago. Caso você tenha uma foto que deseja proteger de possíveis coletas de dados, pode carregá-la no Fawkes, que embaralha esses pixels invisíveis. A equipe afirma que o processo dura cerca de 40 segundos por foto.

Você pode então fazer o upload dessa foto modificada em uma rede social de sua preferência. Caso uma empresa como a Clearview vasculhe suas fotos públicas, essa provavelmente não será compatível com nenhum de seus outros dados.

Evidentemente, o programa não vai destruir empresas assim. Na verdade, ele quer ser uma dor de cabeça para elas. “O Fawkes foi projetado para aumentar significativamente os custos de construção e manutenção de modelos precisos para o reconhecimento facial em larga escala”, afirmam os pesquisadores, ressaltando que qualquer pessoa conseguiria “identificar uma pessoa-alvo em um tempo igual ou menor” usando seus próprios olhos em vez de recorrendo a um software de reconhecimento. Mesmo assim, é uma boa opção para atrapalhar o negócio de coleta de dados faciais.

FONTE: https://olhardigital.com.br/fique_seguro/noticia/fawkes-conheca-metodo-que-engana-sistemas-de-reconhecimento-facial/104575