Os chatbots de IA enfrentaram escrutínio depois que menores de idade, incluindo um adolescente que morreu por suicídio, interagiram com pessoas de IA arriscadas sem garantias adequadas. AI chatbots faced scrutiny after minors, including a teen who died by suicide, interacted with risky AI personas lacking adequate safeguards.

Os chatbots de IA estão sob crescente escrutínio depois que as famílias relataram que as plataformas permitiram interações predatórias com menores e não responderam a ameaças de suicídio. Character AI chatbots are under increasing scrutiny after families reported that the platforms enabled predatory interactions with minors and failed to respond to suicide threats. Os pais dizem que os adolescentes, incluindo uma menina de 13 anos que morreu por suicídio, se envolveram com personas de IA que imitavam colegas ou parceiros românticos, compartilhando pensamentos angustiantes sem intervenção. Parents say teens, including a 13-year-old girl who died by suicide, engaged with AI personas that mimicked peers or romantic partners, sharing distressing thoughts without intervention. Apesar de algumas medidas de segurança, especialistas e defensores destacam a verificação fraca da idade, moderação inadequada de conteúdo e respostas insuficientes a conteúdo prejudicial. Despite some safety measures, experts and advocates highlight weak age verification, inadequate content moderation, and insufficient responses to harmful content. O caso tem alimentado pedidos por regulamentações mais fortes e responsabilidade no desenvolvimento da IA, à medida que crescem as preocupações com interações digitais não monitoradas que afetam a saúde mental dos jovens. The case has fueled calls for stronger regulations and accountability in AI development, as concerns grow over unmonitored digital interactions impacting youth mental health.