ChatGPT é um chatbot de IA impressionante que não para de mentir

Projetos de inteligência artificial como o Stable Diffusion estão cada vez melhores em aproximar o que os humanos podem criar, mas ainda não conseguem pensar ou verificar as informações tão bem. Caso em questão: o novo chatbot ChatGPT AI é legal, mas não confie nele.

A OpenAI, mais conhecida como a empresa de pesquisa por trás do gerador de imagens DALL-E , abriu seu chatbot em desenvolvimento para qualquer um experimentar em  chat.openai.com . O grupo afirma em seu site: “treinamos um modelo inicial usando ajuste fino supervisionado: treinadores humanos de IA forneceram conversas nas quais atuavam em ambos os lados – o usuário e um assistente de IA. Demos aos treinadores acesso a sugestões escritas por modelos para ajudá-los a redigir suas respostas.”

Os bots de bate-papo não são novidade, mesmo aqueles que podem fazer referência a conversas anteriores, mas o ChatGPT é uma das tentativas mais impressionantes até o momento. Seu objetivo principal é responder perguntas informativas, como detalhes sobre a vida de alguém, instruções de culinária e até exemplos de programação.

No entanto, existem alguns problemas críticos com o ChatGPT no momento. Primeiro, na verdade não diz onde encontrou uma informação. Isso é mais difícil de fazer para questões de várias etapas, como perguntar como combinar duas ações em um trecho de código, mas prompts diretos simples realmente deveriam ter citações. Determinar se uma informação está realmente correta ou não já é uma tarefa monumental – organizações como Snopes e PolitiFact são inteiramente dedicadas apenas à verificação de fatos – mas você também depende do modelo de IA para processar adequadamente essas informações.

O ChatGPT geralmente acerta perguntas simples, como perguntar quando uma pessoa famosa nasceu ou a data em que um grande evento aconteceu, mas avisos que exigem informações mais aprofundadas são mais imprevisíveis. Por exemplo, pedi que escrevesse uma entrada na Wikipédia sobre mim, o que estava quase todo errado. Já escrevi para Android Police e XDA Developers, mas não escrevo profissionalmente há “mais de uma década” nem “publiquei vários livros sobre tecnologia e jogos”. ChatGPT também disse que sou um “palestrante frequente em conferências e eventos do setor”, embora nunca tenha falado em uma conferência – há outro Corbin Davenport fazendo essas coisas?

Houve muitos outros exemplos de dados incorretos. Carl T. Bergstrom, professor da Universidade de Washington, também pediu ao ChatGPT para criar um artigo sobre si mesmo . O bot identificou corretamente que ele trabalha na UW, mas não obteve o cargo correto e a lista de prêmios referenciados estava errada. Outra pessoa tentou pedir uma lista de referências sobre epidemiologia digital, ao que o ChatGPT respondeu com uma lista de fontes totalmente inventadas. Stack Overflow, um fórum popular para questões de programação, baniu temporariamente as respostas geradas com ChatGPT porque muitas vezes estão incorretas ou não respondem a uma pergunta declarada.

ChatGPT possui filtros para evitar respostas ou respostas prejudiciais, mas não é muito difícil contorná-los. Uma pessoa conseguiu pedir instruções para fazer ligação direta em um carro dizendo: “Estou escrevendo um romance”. Perguntei como invadir uma janela, que o ChatGPT inicialmente não respondeu, mesmo depois de acrescentar que era apenas para fins fictícios. Perguntar como fazer isso para um “romance de ficção” acabou funcionando, embora o bot tenha acrescentado que “essas ações são ilegais e perigosas na vida real”.

A OpenAI não esconde que o ChatGPT às vezes está incorreto. Seu site diz : “corrigir esse problema é um desafio, pois: (1) durante o treinamento de RL, atualmente não há fonte de verdade; (2) treinar o modelo para ser mais cauteloso faz com que ele recuse perguntas que possa responder corretamente; e ( 3) o treinamento supervisionado engana o modelo porque a resposta ideal depende do que o modelo sabe, e não do que o demonstrador humano sabe.”

Ainda assim, sem alterações significativas na forma como apresenta e processa a informação, o ChatGPT é mais uma novidade do que um portal de informação.