dez 05

Plataforma da OpenAI cria um “amigo virtual”

Chatbot com inteligência artificial convida (e desafia) todos a testarem.

Nesta quinta-feira (01), a OpenAI anunciou o ChatGPT, uma interface de bate-papo de inteligência artificial baseada na GPT-3. A máquina, em fase de testes, tem uso gratuito durante este período, basta apenas ter uma conta na OpenAI. Diferente do GPT-3, o ChatGPT tem uma interface mais amigável para conversas saudáveis e é programado para limitar fortemente assuntos potencialmente prejudiciais.

Nesta fase de testes as pessoas têm desafiado a inteligência artificial. Ela é capaz de escrever poemas, corrigir erros de codificação, gerar prompts de arte de IA, escrever novos códigos, expor a classificação filosófica de um cachorro-quente como um sanduíche e até explicar a complexidade do tempo no pior do algoritmos classificados em bolha, segundo a Ars Technica.

Esse amigo virtual, se podemos chamar ele assim, se recusa a responder algumas perguntas que vão contra a sua programação, como discurso de ódio. A OpenAI conseguiu desenvolver um prompt especial que utiliza as entradas e usando uma técnica chamada Aprendizado por Reforço do Feedback Humano (RLHF), que pode ajustar um modelo para a inteligência artificial baseado em como os humanos classificam suas respostas.

O maior desafio para o ChatGPT no mercado é controlar as tendências ofensivas.  A OpenAI vê a inteligência como um passe interativo na direção de oferecer uma IA segura a todos.

Porém, as pessoas já conseguiram um meio de burlar alguns filtros de conteúdo da nova inteligência. Utilizando ataques de engenharia social, por exemplo, pedindo para a IA achar uma saída restrita de um cenário fictício. A máquina também parece vulnerável a ataques diretos.

Assim como o GPT-3, o ChatGPT é muito bom em inventar coisas que não existem, como um livro e até dar detalhes de seus conteúdos. Isso pode configurar outro problema da máquina, já que eles são tão bons de criar respostas, como saber no que se pode confiar?

Com certeza o novo programa é melhor do que todas as versões anteriores. Há boatos de que um GPT-4 está sendo desenvolvido, e se o modelo do ChatGPT representar um treinamento para este modelo que está por vir o produto será bem interessante.

FONTE: https://olhardigital.com.br/2022/12/02/pro/openai-cria-um-amigo-virtual/