Instagram vai combater bullying em foto com ‘machine learning’

Ferramenta é capaz de identificar intimidação e assédio em fotografia, como ataques à aparência ou ao caráter de uma pessoa, diz a empresa

INSTAGRAM QUER PROTEGER OS USUÁRIOS MAIS JOVENS, JÁ QUE ADOLESCENTES SÃO OS QUE SOFREM MAIS BULLYING (FOTO: REPRODUÇÃO/FACEBOOK)

Apontada como a pior rede social para a saúde mental segundo a Royal Society for Public Health, o Instagram anunciou nesta terça-feira (09/10) uma ferramenta baseada em machine learning para detectar bullying em fotos e legendas. O recurso, previsto para ser lançado gradativamente nas próximas semanas, fará a captura de conteúdo identificado como bullying e o enviará para um time de revisores da empresa, que decidirá por sua remoção ou não.

machine learning (ou aprendizado de máquina, em português) funciona a partir do reconhecimento de padrões. Nesse caso, a tecnologia “aprende” o que é bullying de acordo com o que os engenheiros de computação do Instagram ensinam a ela. Esse ensino consiste, basicamente, na classificação contínua de milhares de fotos e legendas. Assim, ao se deparar com um conteúdo de bullying, a ferramenta — com base nos sinais de bullying que ela já viu na rede social — automaticamente faz a associação dos sinais que ela capta com o que aprendeu.

A empresa não detalha exatamente quais elementos são entendidos como bullying. Mas informa que a ferramenta é capaz de identificar intimidação e assédio em foto, como ataques à aparência ou ao caráter de uma pessoa, assim como ameaças ao bem-estar ou à saúde de uma pessoa. “Uma das táticas de intimidação que a tecnologia de foto detecta é comparar, ranquear e classificar imagens e legendas que podem conter bullying, como, por exemplo, em imagens de tela dividida, onde uma pessoa é comparada a outra de maneira negativa”, disse o Instagram, em e-mail enviado à Época NEGÓCIOS.

Adam Mosseri, que assumiu recentemente a liderança do Instagram (após o anúncio da saída dos fundadores, Kevin Systrom e Mike Krieger), afirmou no blog da empresa que a nova ferramenta é um passo crucial no combate ao bullying, já que muitas pessoas que o vivenciam ou observam acabam não fazendo a denúncia. “Isso também nos ajudará a proteger os membros mais jovens da nossa comunidade, já que os adolescentes sofrem com as taxas mais altas de bullying online”, disse.

A pesquisa #StatusOfMind, da Royal Society for Public Health(organização independente dedicada à promoção da saúde no Reino Unido), mostra que o Instagram é a pior rede social para a saúde mental. Em uma análise que considerou questões como ansiedade, depressão, bullying e Fomo — Fear of Missing Out (medo de perder algo) — o app recebeu a pontuação mais negativa.

O YouTube, por outro lado, teve uma pontuação positiva. O ranking segue com Twitter, em segundo lugar; Facebook, em terceiro; Snapchat, em quarto; e Instagram, em quinto. Feita em 2017, a pesquisa entrevistou 1.479 jovens entre 14 e 24 anos no Reino Unido. Apesar dos aspectos negativos, o estudo também mostrou que as redes sociais promovem o senso de comunidade e facilitam o apoio emocional.

Os riscos, no entanto, devem ser enfrentados, diz a organização. “Ser um adolescente já é por si só difícil, mas as pressões que os jovens sofrem online são algo característico dessa geração digital”, afirmam os pesquisadores. “É muito importante colocar essas salvaguardas em curso.”

Filtros e efeitos

Efeito câmera Instagram  (Foto: Reprodução)

O Instagram também anunciou um filtro de comentários em vídeos ao vivo, para evitar bullying durante uma transmissão. Esse filtro já havia sido apresentado há alguns meses para a identificação e ocultação automática de comentários com teor de bullying no feed, na aba Explorar e no perfil.

A rede social lançou ainda um novo efeito de câmera (imagem acima), em parceria com a atriz e dançarina Maddie Ziegler, “para propagar mais positividade dentro da plataforma”, informa a empresa em seu blog. O efeito dá a possibilidade de sobrepor corações ou palavras de gentileza à imagem. Maddie Ziegler já foi vítima de bullying.

FONTE: ÉPOCA