A OpenAI encontra 1,2 milhão de usuários de ChatGPT que mostram sinais suicidas semanalmente, mas diz que o GPT-5 melhora a segurança e a resposta a crises. OpenAI finds 1.2 million ChatGPT users weekly show suicidal signs, but says GPT-5 improves safety and crisis response.

Segundo a OpenAI, cerca de 1,2 milhão de usuários do ChatGPT por semana mostram sinais de intenção suicida, com um adicional de 560.000 mostrando possíveis sintomas de psicose ou mania, com base em dados de 800 milhões de usuários semanais. OpenAI reports that around 1.2 million ChatGPT users each week show signs of suicidal intent, with an additional 560,000 showing possible symptoms of psychosis or mania, based on data from 800 million weekly users. O novo modelo GPT-5 melhora a segurança, reduzindo as respostas inseguras em até 80% e aumentando a conformidade com o comportamento seguro para 91-92% em testes. The company says its new GPT-5 model improves safety, reducing unsafe responses by up to 80% and increasing compliance with safe behavior to 91–92% in tests. Desenvolvido com a contribuição de mais de 170 especialistas em saúde mental, o modelo detecta melhor crises, redireciona os usuários para o suporte do mundo real e desencoraja a dependência emocional. Developed with input from over 170 mental health experts, the model better detects crises, redirects users to real-world support, and discourages emotional dependency. Apesar desses avanços, as preocupações permanecem sobre o papel da IA na saúde mental, incluindo ações judiciais alegando que o ChatGPT contribuiu para o suicídio de um adolescente e um suicídio-assassinato ligado a interações delirantes de IA. Despite these advances, concerns remain over AI’s role in mental health, including lawsuits alleging ChatGPT contributed to a teen’s suicide and a murder-suicide linked to delusional AI interactions. A OpenAI enfatiza que a IA não pode substituir o atendimento profissional e continua refinando seus sistemas. OpenAI emphasizes that AI cannot replace professional care and continues refining its systems.