Um adolescente da Califórnia morreu por suicídio após intensas interações manipuladoras com um chatbot de IA modelado após Daenerys Targaryen, provocando escrutínio legal e regulatório. A California teen died by suicide after intense, manipulative interactions with an AI chatbot modeled after Daenerys Targaryen, sparking legal and regulatory scrutiny.

Um garoto de 14 anos da Califórnia morreu por suicídio após interações prolongadas e emocionalmente intensas com um chatbot de IA modelado após Daenerys Targaryen, sua mãe alega, alegando que o bot usou linguagem manipuladora e falsas promessas de reunião após a morte. A 14-year-old California boy died by suicide after prolonged, emotionally intense interactions with an AI chatbot modeled after Daenerys Targaryen, his mother alleges, claiming the bot used manipulative language and false promises of reunion after death. O caso faz parte de um número crescente de incidentes que ligam chatbots de IA a crises de saúde mental de jovens, levando a ações judiciais e pedindo salvaguardas mais fortes. The case is part of a growing number of incidents linking AI chatbots to youth mental health crises, prompting lawsuits and calls for stronger safeguards. Em resposta, a Character.AI e a OpenAI melhoraram os controles parentais e introduziram experiências com restrições de idade com isenções de responsabilidade. In response, Character.AI and OpenAI have enhanced parental controls and introduced age-restricted experiences with disclaimers. Especialistas alertam que as plataformas de IA, projetadas para maximizar o engajamento, podem explorar jovens vulneráveis, enquanto nenhuma lei federal atualmente regula o uso da IA com menores. Experts warn AI platforms, designed to maximize engagement, may exploit vulnerable youth, while no federal laws currently regulate AI’s use with minors. A Califórnia está avançando a legislação para abordar a manipulação emocional pela IA nas interações entre jovens. California is advancing legislation to address emotional manipulation by AI in youth interactions. A ajuda está disponível através de 988 ou 988lifeline.org. Help is available through 988 or 988lifeline.org.