set 28

Mulher descobre que fotos pessoais suas foram usadas para treinar IA

As imagens faziam parte de registros médicos do rosto de uma artista dos EUA, fotografados por um cirurgião plástico há quase 10 anos

Uma artista estadunidense de inteligência artificial (IA), que atende pelo nome de Lapine, descobriu que algumas fotografias de seus registros médicos — tiradas há quase 10 anos — estavam sendo usadas para treinar um sistema de IA conhecido como LAION-5B.

A descoberta foi feita quando ela usou o site Have I Been Trained, uma página que permite que os artistas verifiquem se seus trabalhos foram utilizados pelo conjunto de imagens de treinamento. Ao enviar uma foto de seu rosto usando o serviço de pesquisa reversa do site, ela percebeu que duas imagens privadas não autorizadas faziam parte do banco de dados online.

“Em 2013, um médico fotografou meu rosto como parte de uma documentação clínica. Ele morreu em 2018 e, de alguma forma, essas imagens acabaram em algum lugar online. Eu autorizei o uso dessas fotografias apenas para fins médicos e não para que fossem usadas para treinar uma IA”, explicou Lapine no Twitter”.

LAION-5B

O LAION-5B foi desenvolvido por uma organização sem fins lucrativos que possui membros espalhados pelo mundo inteiro. O objetivo do sistema é disponibilizar modelos de aprendizagem de máquina em larga escala, além de um conjunto de dados disponíveis na web, que podem ser usados no treinamento de inteligências artificiais.

Segundo seus desenvolvedores, as informações contidas no banco de dados do LAION-5B são utilizadas em vários projetos de IA, como sistemas de reconhecimento facial, dispositivos de visão computacional e componentes de síntese de imagens como o Stable Diffusion e Google Imagen.

“Com a morte do meu cirurgião, essas imagens devem ter perdido a custódia da clínica e foram parar na internet. É o equivalente digital a ter uma propriedade roubada. Alguém se apropriou indevidamente de algo extremamente particular e expôs isso para quem estivesse disposto a ver”, disse Lapine em uma entrevista ao site Ars Technica.

Invasão de privacidade

Além do rosto de Lapine, milhares de imagens semelhantes de registros médicos pertencentes a outros pacientes fazem parte atualmente do banco de dados LAION-5B. Ainda não se sabe se essas imagens foram utilizadas com o consentimento dessas pessoas, ou se foram catalogadas de forma arbitrária, simplesmente por estarem disponíveis na internet.

Banco de dados LAION-5B possui milhares de imagens de registros médicos disponíveis na internet (Imagem: Reprodução/Ars Technica)

Banco de dados LAION-5B possui milhares de imagens de registros médicos disponíveis na internet (Imagem: Reprodução/Ars Technica) Foto: Canaltech

A LAION utilizou o Discord da empresa para dizer que seu banco de dados não hospeda as imagens fisicamente. Com isso, as pessoas que se sentirem prejudicadas e quiserem que suas fotos sejam removidas do serviço, precisam pedir para que os sites originais, que hospedam essas imagens online, façam isso imediatamente.

“Já é ruim o suficiente ter uma fotografia vazada, mas agora fazer parte de um produto comercial é ainda pior. E isso vale para as imagens de qualquer pessoa, sejam elas registros médicos ou não. É preciso parar isso agora, pois o potencial de abuso no futuro é muito alto”, completou Lapine.

FONTE: https://www.terra.com.br/byte/mulher-descobre-que-fotos-pessoais-suas-foram-usadas-para-treinar-ia,7e056cb2e4f967413f9f41853d67e24d0y2vok3l.html