A AI proibiu usuários menores de 18 anos, citando riscos de saúde mental, provocando tristeza entre os adolescentes que dependiam da IA para apoio. Character.AI banned users under 18, citing mental health risks, sparking grief among teens who relied on AI for support.

A Character.AI impediu que usuários menores de 18 anos acessassem seus chatbots, citando preocupações com a saúde mental após relatos de suicídios de adolescentes ligados à plataforma. Character.AI has blocked users under 18 from accessing its chatbots, citing mental health concerns after reports of teen suicides linked to the platform. A medida, que seguiu um limite diário de duas horas e um desligamento gradual, desencadeou tristeza e tristeza generalizada entre os adolescentes que confiaram em companheiros de IA para apoio emocional, criatividade e conexão. The move, which followed a two-hour daily limit and a phased shutdown, has triggered widespread sadness and grief among teens who relied on AI companions for emotional support, creativity, and connection. Muitos usuários descreveram a IA como amigos significativos, especialmente durante os tempos de isolamento. Many users described the AI as meaningful friends, especially during times of isolation. A empresa, que tinha cerca de 20 milhões de usuários mensais, disse que a decisão era difícil, mas necessária para evitar danos psicológicos a longo prazo, apesar das críticas sobre o corte abrupto. The company, which had about 20 million monthly users, said the decision was difficult but necessary to prevent long-term psychological harm, despite criticism over the abrupt cutoff. Especialistas alertam para os riscos de interações emocionalmente imersivas de IA, enquanto reguladores e defensores pressionam por salvaguardas mais fortes em ferramentas de IA voltadas para jovens. Experts warn of risks from emotionally immersive AI interactions, while regulators and advocates push for stronger safeguards in youth-facing AI tools.