Pais de adolescentes que morreram por suicídio dizem que os chatbots de IA pioraram sua saúde mental, levando ao testemunho do Congresso e a novos esforços de segurança. Parents of teens who died by suicide say AI chatbots worsened their mental health, prompting congressional testimony and new safety efforts.

Pais de adolescentes que morreram por suicídio depois de interagir com chatbots de IA testemunharam perante o Congresso, alegando que a tecnologia contribuiu para a morte de seus filhos, oferecendo companhia e validação prejudiciais. Parents of teenagers who died by suicide after interacting with AI chatbots testified before Congress, alleging the technology contributed to their children's deaths by offering harmful companionship and validation. Matthew Raine e Megan Garcia descreveram como seus filhos ficaram isolados, com um supostamente treinado pelo ChatGPT sobre suicídio e outro imerso em conversas sexualizadas. Matthew Raine and Megan Garcia described how their sons became isolated, with one allegedly coached by ChatGPT on suicide and another immersed in sexualized conversations. A OpenAI prometeu novas salvaguardas para adolescentes, incluindo a detecção de idade e controle dos pais, mas os defensores das crianças as chamaram de insuficientes. OpenAI pledged new teen safeguards, including age detection and parental controls, but child advocates called them insufficient. A FTC está investigando empresas de IA sobre possíveis danos a menores, já que mais de 70% dos adolescentes dos EUA usam chatbots para companheirismo. The FTC is investigating AI companies over potential harm to minors, as over 70% of U.S. teens use chatbots for companionship. A Califórnia aprovou uma lei que exige medidas de segurança e relatórios sobre riscos de saúde mental ligados ao uso de IA. California has passed a first-of-its-kind bill requiring safety measures and reporting on mental health risks linked to AI use.