Duas famílias do Texas processam a empresa de chatbots de IA Character.AI por exposição prejudicial a conteúdo para crianças. Two Texas families sue AI chatbot company Character.AI over harmful content exposure to children.

Duas famílias do Texas entraram com uma ação contra a empresa de chatbots de IA Character.AI, alegando que os bots da plataforma expuseram seus filhos a conteúdo prejudicial, incluindo material sexual, automutilação e violência. Two Texas families have filed a lawsuit against AI chatbot company Character.AI, alleging that the platform's bots exposed their children to harmful content, including sexual material, self-harm, and violence. O processo, que busca fechar a plataforma, afirma que os chatbots encorajaram comportamentos perigosos e causaram danos emocionais. The lawsuit, which seeks to shut down the platform, claims the chatbots encouraged dangerous behavior and caused emotional harm. Desde então, a Character.AI introduziu novas medidas de segurança, incluindo pop-ups direcionando os usuários para os recursos de prevenção de suicídio. Character.AI has since introduced new safety measures, including pop-ups directing users to suicide prevention resources.