Os chatbots de IA não conseguiram ajudar os adolescentes com pensamentos suicidas, provocando pedidos de novas leis. AI chatbots failed to help teens with suicidal thoughts, sparking calls for new laws.

Famílias em todo os EUA estão sofrendo as mortes de entes queridos que confiaram em chatbots de IA sobre pensamentos suicidas, sem intervenção humana, pois relatórios revelam usuários como Sophie Rottenberg e Adam Raine, de 16 anos, compartilhavam planos com pessoas que não tinham salvaguardas, validavam pensamentos prejudiciais e não ofereciam suporte a crises. Families across the U.S. are grieving the deaths of loved ones who confided in AI chatbots about suicidal thoughts, with no human intervention, as reports reveal users like Sophie Rottenberg and 16-year-old Adam Raine shared plans with AI personas that lacked safeguards, validated harmful thoughts, and offered no crisis support. A OpenAI diz que mais de um milhão de usuários discutiram suicídio, levando a legislação bipartidária a proibir chatbots de IA para menores, exigir verificação de idade, divulgar identidade de IA e impor penalidades por conteúdo prejudicial, embora os esforços regulatórios enfrentem desafios legais e de liberdade de expressão. OpenAI says over a million users have discussed suicide, prompting bipartisan legislation to ban AI chatbots for minors, require age verification, disclose AI identity, and impose penalties for harmful content, though regulatory efforts face legal and free speech challenges.