Uma escola secundária nos EUA tomou uma decisão que poderá abrir um precedente extremamente polémico. A Shawsheen Valley Technical High School, em Massachusetts, vai recorrer a inteligência artificial para analisar os dados que os seus estudantes colocam nas redes sociais em procura de sinais de quais alunos se poderão tornar violentos.
Os sinais que a inteligência artificial procura incluem depressão, ressentimento e isolação.
A companhia contratada para o efeito chama-se Social sentinel, e o seu CEO Gary Margolis, defendeu (citado pela Gizmodo) que o seu produto foi construído conjuntamente cm linguistas e psicólogos a partir de dados de estudantes que praticaram violência contra si mesmos ou outros. A companhia tem uma biblioteca de 450 mil indicadores que podem revelar preocupação.
A utilização deste tipo de tecnologia para espiar os conteúdos dos alunos está destinada a levantar polémica na sociedade civil. E a empresa defende-se à partida, dizendo que “nós não somos uma ferramenta de vigilância, nós não somos uma ferramenta de monitorização, nós não somos uma ferramenta de investigação”. Segundo a empresa, o objectivo é identificar padrões que possam indicar que um determinado estudante não está bem e que é potencialmente perigoso, e não espiar. O CEO reconhece no entanto que podem acontecer falsos positivos.
FONTE: