A empresa investirá cerca de US$ 10 milhões no Deepfake Detection Challenge, desafio criado para encontrar novas soluções que identifiquem conteúdos falsos
Você sabe o que é deepfake? O termo, que ganhou destaque nos últimos meses, se refere ao uso de inteligência artificial para manipular imagens e vídeos inserindo, por exemplo, o rosto de uma pessoa em outro corpo. Em 2018, um caso envolvendo a técnica repercutiu no mundo todo. Em um vídeo, Barack Obama fazia uma série de afirmações polêmicas. No entanto, o conteúdo era falso e foi manipulado pelo cineasta Jordan Peele para alertar o público sobre sobre os perigos da desinformação online.
A empresa investirá cerca de US$ 10 milhões em recursos para a iniciativa, criando um conjunto de dados com possíveis cenários de deepfakes. O objetivo é incentivar a indústria tecnológica a criar métodos para detectar vídeos manipulados e impedir que eles sejam disseminados nas plataformas digitais.
“As técnicas de deepfakes, que apresentam vídeos gerados pela IA de pessoas reais fazendo e dizendo coisas fictícias, têm implicações significativas para determinar a legitimidade das informações apresentadas online. No entanto, o setor não possui um ótimo conjunto de dados ou benchmark para detectá-los. Queremos catalisar mais pesquisa e desenvolvimento nessa área e garantir que surjam melhores ferramentas de código aberto para detectar falhas profundas” disse Mike Schroepfer, diretor de tecnologia do Facebook, em um comunicado.
Banco de dados
O Deepfake Detection Challenge reunirá um conjunto de vídeos manipulados pelo próprio Facebook com atores contratados e técnicas avançadas. Esses dados serão disponibilizados em dezembro para os interessados no assunto, que poderão criar soluções e testá-las, colocando os resultados em uma tabela de classificação. O Facebook também planeja oferecer premiações para incentivar a participação dos pesquisadores.
“Precisamos do envolvimento total da comunidade de pesquisa em um ambiente aberto para desenvolver métodos e sistemas que possam detectar e mitigar os efeitos negativos da multimídia manipulada”, disse Rama Chellappa, professor da Universidade de Maryland, uma das parceiras do Facebook. “Ao disponibilizar um grande conjunto de mídias genuínas e manipuladas, o desafio proposto permitirá que a comunidade lide coletivamente com essa crise iminente”.