Apesar de estarmos extremamente empolgados com as últimas novidades de Inteligência Artificial, precisamos colocar o pé no chão e começar a desconfiar dos resultados. Entenda o porquê e saiba como conseguir melhores respostas!
Apesar de estarmos extremamente empolgados com as últimas novidades de Inteligência Artificial, precisamos colocar o pé no chão e começar a desconfiar dos resultados. É hora de lembrar que essas tecnologias são criadas por humanos e, por isso, podem conter falhas.
OS ERROS DO GOOGLE BARD
Muito se tem discutido sobre os erros graves que o Google Bard – a nova tecnologia de Inteligência Artificial da grande empresa – cometeu durante sua estreia. Quem não viu, quando foi questionado sobre o ‘quais descobertas poderiam ser contadas a uma criança de 9 anos sobre o telescópio James Webb’, houve um problema: entre os três pontos que a IA ofereceu como resposta, um deles dizia que ele foi o primeiro a tirar fotos de planetas fora do nosso sistema solar – o que é mentira. Confira abaixo:
O BING TAMBÉM FALHOU
Mas não foi só o Google que cometeu esse erro. Na semana passada, durante a apresentação da Microsoft sobre sua reformulação do Bing com o ChatGPT, a big tech também apresentou falhas.
Basicamente, o Bing não foi capaz de fornecer dados significativos e seguros quando solicitado para enumerar os prós e os contras dos aspiradores de pó mais populares, planejar uma viagem de 5 dias para a Cidade do México e comparar detalhes em relatórios financeiros. Os resultados foram duvidosos:
- O Bing não conseguiu distinguir corretamente entre um aspirador com fio e sem fio
- Não forneceu informações relevantes sobre bares na Cidade do México
- Apresentou dados financeiros distorcidos
Pessoas que usam o Reddit também mostraram outros erros estranhos do Bing. Por exemplo, a inteligência artificial informou que já estávamos em 2022 e sugeriu que a pessoa olhe as configurações do computador para ver se tem algo errado, como vírus ou erros.
AFINAL, QUAIS ERROS UMA INTELIGÊNCIA ARTIFICIAL PODE COMETER?
De acordo com o próprio ChatGPT, os erros possíveis da Inteligência Artificial (IA) podem variar dependendo do algoritmo utilizado. Confira 4 deles:
1- OTIMISTA DEMAIS
Um sistema de IA pode ter uma visão muito otimista em relação a resultados possíveis, o que pode ser extremamente prejudicial para quem usa a IA para tomar decisões financeiras.
2- OVERFITTING
Quando o sistema treinou demais com dados antigos e não foi capaz de se adaptar a novas informações – como aconteceu quando o Bing respondeu que ainda estamos em 2022 para um usuário do Reddit.
3- RUÍDO DE DADOS
Se os dados usados para treinar e testar um sistema de inteligência artificial tiverem erros ou não forem precisos, isso afetará negativamente os resultados. Basicamente, ele pode impactar a qualidade do desempenho por não ter informações claras para lidar com eles.
4- VIÉS DA AMOSTRA
Quando as amostras usadas para treinar um sistema de IA refletem apenas uma parte limitada da população geral – o que pode gerar resultados errados.
COMO CONFIAR EM UMA INTELIGÊNCIA ARTIFICIAL?
Para isso, você deve aprimorar a skill de perguntar e dialogar, de “interfacear” com os modelos de Inteligência Artificial. De acordo com Cristiano Kruel, Chief Innovation Officer na StartSe:
“Interagir com os algoritmos de IA criando bons “prompts” (as solicitações escritas) não é uma questão de dar o comando certo, ou ter precisão na pergunta. É preciso senso crítico para interpretar o retorno pois muitas vezes não existe uma resposta certa (o que o Google chama de NORA – No One Right Answer).”
COMO DESENVOLVER ESSE SENSO CRÍTICO?
- Kruel diz: “Precisamos compreender a diferença, natureza e propósito, de cada modelo de IA que estamos tentando utilizar (afinal de contas, botões no microondas são diferentes da máquina de lavar roupas).
- Precisamos ampliar o nosso vocabulário e repertório (linguagem humana) pois com isto temos chance de extrair mais possibilidades, excepcionalidade e ineditismo dos modelos.”
- Precisamos tentar, experimentar, praticar, para conseguir extrair valor a dar uso correto para a tecnologia.”
POR QUE IMPORTA?
A capacidade de escrita clara e crítica é essencial para usar inteligência artificial nos negócios. O prompt, ou seja, as instruções para as máquinas fazerem determinadas tarefas, deve ser escrito de forma adequada para que os resultados sejam mais precisos.
Além disso, é importante ser capaz de questionar e avaliar criticamente as respostas obtidas das máquinas para garantir que elas estejam corretas. Sem essa habilidade, você será só mais um ‘analfabeto’ tentando utilizar uma tecnologia – que vai revolucionar os negócios (de quem sabe fazer isso).
FONTE: https://www.startse.com/artigos/inteligencia-artificial-sera-que-e-mesmo-confiavel/