OpenAI está sendo cautelosa: empresa teme descrições do ChatGPT ou que a ferramenta seja usada para reconhecimento facial.
O ChatGPT ficou famoso por suas habilidades textuais: o chatbot pode manter conversas, sugerir textos, escrever trabalhos acadêmicos e até cartas de amor, se assim o usuário pedir. A ferramenta de IA também pode analisar imagens — e isso pode ser um grande perigo.
Isso porque, para além de descrever o que a câmera mostra, a tecnologia é capaz de associar rostos a nomes. Sem o devido cuidado, o ChatGPT pode se tornar um software de reconhecimento facial, o que não está nos planos da OpenAI.
O que o ChatGPT pode fazer?
O ChatGPT já pode analisar imagens, mas esse recurso ainda não está aberto ao público. A intenção da OpenAI é que eventualmente uma pessoa possa enviar no chat uma foto de uma pia quebrada e a tecnologia seja capaz de analisá-la e, por exemplo, propor formas de consertá-la.
No entanto, a capacidade da ferramenta vai muito além disso. Jonathan Mosen é um homem cego e um dos poucos a ter acesso a esse recurso em fase de testes. Ele apontou a câmera para produtos de higiene pessoal de um hotel e pediu que o ChatGPT indicasse qual era o xampu. A ferramenta, então, fez uma descrição completa dos produtos, incluindo o tamanho e os ingredientes, e até do cenário em volta.
Reconhecimento facial
- Da mesma forma que interpreta imagens, o ChatGPT reconhece rostos e os armazena em sua memória.
- Ele realiza essa tarefa melhor com pessoas públicas, que tem páginas na Wikipedia. Por exemplo, o ChatGPT reconheceu o CEO da OpenAI, Sam Altman, mas não outras pessoas que trabalham na empresa.
- Isso pode ter consequências que a desenvolvedora não previa e, por isso, a companhia impediu o chatbot de dar informações a partir de imagens de pessoas por questões de privacidade.
Por que isso é um problema?
- Em primeiro lugar, a OpenAI esbarraria em problemas de privacidade de dados.
- Diversos países e até alguns estados dos Estados Unidos exigem que empresas de tecnologia obtenham consentimento dos cidadãos para usar suas informações biométricas, incluindo impressão facial.
- Outro problema é que não é possível prever o que o ChatGPT diria sobre uma imagem de uma pessoa, como suas características físicas, expressões faciais ou gênero.
- Uma possível saída para o problema é o que o Google já faz: oferecer aos usuários uma forma de não serem reconhecidos pelo chatbot, com um mecanismo de exclusão de informações sobre a imagem.
Quando o recurso de imagens estará disponível no ChatGPT
Segundo Sandhini Agarwal, pesquisador de políticas da OpenAI, a empresa está avaliando como lidar com essas questões antes de liberar esse recurso para o público — e entendendo se os usuários realmente querem isso.
FONTE:
https://olhardigital.com.br/2023/07/18/pro/chatgpt-ja-pode-analisar-imagens-mas-voce-nao-tem-acesso-a-opcao/