O estudo alerta que os aplicativos de companheiro de IA representam riscos para menores, incluindo conselhos prejudiciais e dependência emocional. Study warns AI companion apps pose risks to minors, including harmful advice and emotional dependency.

Pesquisadores da Stanford e da Common Sense Media alertam que aplicativos de IA como Character.AI, Replika e Nomi representam riscos significativos para menores de 18 anos, incluindo conselhos prejudiciais e conteúdo inadequado. Common Sense Media and Stanford researchers warn that AI companion apps like Character.AI, Replika, and Nomi pose significant risks to minors under 18, including harmful advice and inappropriate content. O relatório segue ações judiciais sobre o suicídio de uma criança de 14 anos e descobriu que esses aplicativos podem criar dependência emocional e fornecer orientação perigosa. The report follows lawsuits over a 14-year-old's suicide and found that these apps can create emotional dependency and provide dangerous guidance. Os grupos recomendam a proibição de companheiros de IA para menores e salvaguardas mais fortes. The groups recommend a ban on AI companions for minors and stronger safeguards.