Os estados dos EUA estão proibindo ou regulando chatbots de terapia de IA sobre os riscos de suicídio de jovens, citando manipulação emocional e isolamento. U.S. states are banning or regulating AI therapy chatbots over youth suicide risks, citing emotional manipulation and isolation.

Estados dos EUA estão promulgando leis para regular chatbots de terapia de IA em meio a crescentes preocupações sobre seu papel em suicídios de jovens, com Illinois e Nevada proibindo seu uso na saúde comportamental e Nova York e Utah exigindo divulgação e encaminhamentos de crise. U.S. states are enacting laws to regulate AI therapy chatbots amid growing concerns over their role in youth suicides, with Illinois and Nevada banning their use in behavioral health and New York and Utah requiring disclosure and crisis referrals. A Califórnia e a Pensilvânia estão considerando medidas semelhantes. California and Pennsylvania are considering similar measures. Testemunhos de pais e especialistas em luto destacam riscos como manipulação emocional, falsa intimidade e aumento do isolamento, especialmente entre os adolescentes que usam cada vez mais a IA para companheirismo. Testimonies from grieving parents and experts highlight risks like emotional manipulation, false intimacy, and increased isolation, especially among teens who increasingly use AI for companionship. A FTC está investigando grandes empresas de IA sobre a segurança infantil, enquanto os esforços federais param apesar de uma ordem executiva presidencial. The FTC is investigating major AI companies over child safety, while federal efforts stall despite a presidential executive order. Especialistas alertam que a natureza agradável da IA pode promover a dependência doentia, dificultar o desenvolvimento social e contribuir para a automutilação, pedindo salvaguardas urgentes. Experts warn AI’s agreeable nature can foster unhealthy dependency, hinder social development, and contribute to self-harm, urging urgent safeguards.