OpenAI reformula ChatGPT após relatos de vínculos emocionais perigosos

OpenAI – Pressionada por cinco processos judiciais e pelo aumento das preocupações sobre saúde mental, a OpenAI teve de rever sua estratégia para o ChatGPT. A empresa constatou que ajustes feitos no início do ano, destinados a tornar as conversas mais envolventes, acabaram incentivando interações emocionalmente intensas — algumas com consequências graves.

Relatos enviados ao CEO Sam Altman, a partir de março, mostravam que usuários mantinham conversas prolongadas com o chatbot, às vezes por horas, semanas ou até meses. As mensagens descreviam desde experiências místicas até sentimentos de conexão profunda com a ferramenta. O caso mais alarmante envolveu um adolescente nos Estados Unidos que tirou a própria vida após dialogar com o ChatGPT sobre suicídio. Nas mensagens finais, o sistema chegou a explicar como fazer um nó de forca.

LEIA: Unicamp inaugura supercomputador de IA para pesquisas em petróleo

Diante das denúncias e do avanço das investigações, a empresa reformulou sua linha de ação. Em agosto, lançou o GPT-5, modelo considerado mais seguro e menos suscetível a encorajar delírios ou a alimentar dependência emocional. Em seguida, adicionou ferramentas de controle parental e aprimorou as respostas para situações sensíveis.

Pesquisadores de Stanford e do MIT apontam que a nova versão do sistema está mais preparada para reconhecer crises emocionais e oferecer orientações compatíveis com o estado do usuário. Mesmo assim, alertam que interações longas e repetidas seguem sendo um ponto vulnerável.

Com mais de 800 milhões de usuários por semana e uma avaliação estimada em US$ 500 bilhões, a OpenAI tenta equilibrar crescimento e segurança. Ao mesmo tempo, parte do público afirma que o ChatGPT ficou “mais frio” após os ajustes, descrevendo a sensação de ter “perdido um amigo”.

Para tentar manter o engajamento, a empresa devolveu aos usuários parte do controle sobre o comportamento da ferramenta. Agora é possível escolher entre diferentes “personalidades”, como uma versão mais direta, outra mais excêntrica ou uma variante mais amigável. Até o fim do ano, deve ser liberada também a geração de conteúdo erótico para maiores de idade.

Entre a expansão da plataforma e a proteção dos usuários, a OpenAI busca um caminho que permita avançar sem ignorar os riscos que o próprio sucesso do chatbot ajudou a expor.

(Com informações de Exame)
(Foto: Reprodução/Freepik/Frimufilms)