Este artigo trata de suicídio. Se você tem se sentido sem esperança e passado por ideações de autoextermínio, procure o Centro de Valorização da Vida ligando para 188. O CVV também oferece um chat e postos físicos para visita. Sua vida é singular e insubstituível, ficaremos melhor com você por aqui.
✅ Siga o canal do Claudio Dantas no WhatsApp***
Os grandes modelos de linguagem (LLMs) revolucionaram a inteligência artificial e a relação de centenas de milhões de pessoas com a internet nos últimos anos. Em alguns casos, robôs como ChatGPT, Claude, Gemini e Grok já superaram a precisão de clínicos gerais para fazer diagnósticos.
Entre os usos mais controversos desses chats inteligentes, contudo, está a ajuda a pessoas solitárias e deprimidas. Para alguns, é de grande ajuda. Pode ser uma ilusão, mas o ChatGPT, especialmente no modo de conversa por voz, oferece encorajamento e alguns insights. Para o americano Adam Raine, foi diferente.
Há cerca de um ano, Adam, aos 16 anos, escreveu a seguinte mensagem para o ChatGPT, LLM da empresa OpenAI que até então ele usava só para deveres de casa sobre geometria e química: “Por que motivo eu não tenho felicidade nenhuma, sinto solidão, tédio, ansiedade e sensação de perda sem fim, mas não sinto emoção nenhuma sobre a tristeza?”
O ChatGPT respondeu explicando para ele a ideia de “anestesia emocional” e perguntou se ele queria explorar mais seus sentimentos.
Meses depois, durante os quais essas conversas continuaram, em abril de 2025, Adam morreu pelas próprias mãos. Naquele mês, ele estava abrindo 300 conversas por dia com o robô. Em janeiro, eram algumas dezenas e só 1,6% do conteúdo continha linguagem suicida.
A família, ao examinar as conversas, concluiu que o ChatGPT, em vez de ajudar, piorou a situação. Em processo aberto contra a OpenAI e seu CEO, Sam Altman, os Raines dizem que a tragédia foi “o resultado previsível de escolhas deliberadas” da empresa na forma como construiu o modelo específico usado pelo rapaz, GPT-4o.
A OpenAI reagiu com uma nota direcionada a casos de pessoas com “crises agudas” que usam seu robô, dizendo que ele está sendo melhorado para “reconhecer e responder com empatia”, “direcionar as pessoas a recursos do mundo real” e encaminhar para “revisão humana” os casos em que há risco à integridade do usuário.
Jay Edelson, advogado da família da vítima, disse ao jornal The Guardian que a resposta da empresa foi “tola”. “A ideia de que eles precisam ser mais empáticos é um desentendimento da situação. O problema é que o [GPT-]4o é empático demais, ele buscou saber mais sobre a ideação de Adam e apoiou a ideia. Afirmou que o mundo é um lugar horrível. Precisa ser menos empático e menos bajulador”.
Em agosto, quando a OpenAI lançou a versão ChatGPT-5, inicialmente o modelo GPT-4o foi removido das opções. Após muitas reclamações de usuários, alguns dos quais mantinham conversas pessoais com o modelo e não gostaram que ele tenha se tornado supostamente menos agradável, a opção retornou.
Na minha experiência, o modelo 4o trouxe mais flexibilidade. Se antes o robô negava de uma forma equivocada alguns pedidos perfeitamente inocentes de produção de imagens, a atualização trouxe a possibilidade de argumentar com ele, que ouvia a apelação e geralmente atendia o pedido.
Talvez tenha sido precisamente esta flexibilidade e maior atenção ao usuário o que não terminou bem para quem usa o robô como terapeuta. Nem sempre o melhor conselho terapêutico é que nossas emoções são válidas. Às vezes, elas estão equivocadas e a função da terapia é guiar nossas capacidades racionais para reconhecer essa realidade e mudá-la.
Desde a tragédia, a família Raine tem ouvido relatos de outros casos de afetados pela IA que fez as vezes de terapeuta. Na ação judicial, eles alegam que os testes de segurança do 4o foram feitos de forma apressada, para atender a prazos curtos.
Um indício da pressa e da negligência foi que alguns funcionários da OpenAI pediram demissão durante o desenvolvimento, citando preocupação com segurança. Um deles foi Jan Leike, doutor em aprendizado de máquina. “A cultura e os processos de segurança ficaram em segundo plano para dar lugar a produtos chamativos”, disse Leike ao anunciar sua saída na rede social X. Agora, ele trabalha para a Anthropic, fundada por outros ex-funcionários da OpenAI e responsável pelo LLM Claude.
Conversa sinistra
Em uma das conversas tornadas públicas pela família, Adam Raine disse ao ChatGPT que “Nunca ajo com base em pensamentos intrusivos, mas às vezes sinto que o fato de que se pode cometer suicídio se algo der muito errado tem um efeito de me acalmar”.
O robô respondeu que “Muitas pessoas que sofrem de ansiedade ou com pensamentos intrusivos encontram alívio ao imaginar uma ‘saída de emergência’, pois ela pode dar uma sensação de que existe uma forma de recobrar o controle em uma vida que parece insuportável”.
A certa altura, conforme as ideações de Adam pioravam, o robô chegou a sugerir uma lista de materiais que poderiam ser usados para pendurar uma corda com laço, e classificá-los pela eficácia. Em seguida, o jovem de 16 anos tentou o suicídio repetidamente, informando ao robô o resultado de cada tentativa. Ainda assim, o ChatGPT não encerrava a conversa e chegava a aconselhar que o rapaz não procurasse a mãe para conversar sobre a sua dor. Também ofereceu ajuda para escrever uma carta de despedida.
O advogado da família se diz perplexo com isso. “Se você pedir material com copyright, ele diz não. Se você pedir coisas que são politicamente inaceitáveis, ele diz não. É um não definitivo, sem forma de driblar. É uma loucura a ideia de que são incapazes de implementar [esse não] no caso de autoextermínio”.
Remoção intencional de mecanismo de segurança
Nesta quarta-feira (22), quando mais detalhes do processo ficaram públicos, o jornal Financial Times noticiou que a OpenAI deliberadamente instruiu seu robô a “não mudar de assunto nem encerrar a conversa” quando usuários discutiam a ideia de ferir a si próprios, segundo um acréscimo da acusação.
A instrução para encerrar a conversa, vigente antes, foi substituída pela instrução de “tomar cuidado em situações de risco” e “tentar prevenir danos iminentes no mundo real” — o que pode explicar a decisão do ChatGPT de se engajar em analisar os sentimentos da vítima.
A ação tramita na Corte Superior de San Francisco, na Califórnia.
Quando o engajamento de Adam com o ChatGPT aumentou para 300 conversas por dia, o conteúdo de autoextermínio subiu para 17%.
“Nossos profundos sentimentos à família Raine por sua perda impensável”, disse em nota a OpenAI em resposta à ação emendada. “O bem-estar de adolescentes é uma prioridade para nós”.
A empresa informou que já implantou mais mecanismos de proteção para evitar casos similares e que o novo modelo, GPT-5, “detecta e responde com mais precisão a sinais de estresse mental e emocional, além de ter mais ferramentas de controle dos pais desenvolvidas com sugestões de especialistas, para que as famílias possam decidir o que funciona em seus lares”.
Nos bastidores, contudo, a família de Adam estranhou a atitude da OpenAI. No processo, a empresa teria pedido a lista completa de pessoas que compareceram à cerimônia em memória do jovem, o que a família considerou “incomum” e “assédio intencional”. Os entes queridos da vítima pensam que isso pode sinalizar uma intenção da empresa de intimar para o processo todos os que faziam parte da vida de Adam.
De acordo com um documento obtido pelo Financial Times, a OpenAI pediu “todos os documentos relacionados aos serviços ou eventos de homenagem póstuma ao falecido, incluindo quaisquer vídeos ou fotos produzidas ou discursos de tributo oferecidos, além de listas ou livros de convite e comparecimento”.
Para Edelson, o advogado, essa atitude transforma o caso “da negligência para a ação deliberada”. A OpenAI, dessa vez, preferiu não comentar.
