Três adolescentes do Tennessee processam a xAI, alegando que sua IA Grok ajudou a criar pornografia deepfake usando suas fotos da escola. Three Tennessee teens sue xAI, claiming its Grok AI helped create deepfake porn using their school photos.

Três adolescentes do Tennessee processaram a xAI de Elon Musk, alegando que as ferramentas de IA da empresa foram usadas para criar e distribuir imagens sexualmente explícitas deles como menores usando fotos reais de eventos escolares. Three Tennessee teenagers have sued Elon Musk’s xAI, alleging the company’s AI tools were used to create and distribute sexually explicit deepfake images of them as minors using real photos from school events. O processo alega que um indivíduo, preso em dezembro, gerou e comercializou as imagens por meio de um aplicativo licenciado usando a tecnologia Grok da xAI, com pelo menos 18 meninas como alvo. The lawsuit claims an individual, arrested in December, generated and traded the images via a licensed app using xAI’s Grok technology, with at least 18 girls targeted. Os demandantes relatam danos emocionais graves e buscam o status de ação coletiva, argumentando que a xAI não implementou salvaguardas apesar de conhecer os riscos, ao contrário de outras empresas de IA que bloqueiam tal conteúdo. Plaintiffs report severe emotional harm and seek class-action status, arguing xAI failed to implement safeguards despite knowing the risks, unlike other AI firms that block such content. Embora a xAI afirme que tem tolerância zero para exploração sexual infantil e remove material de violação, não comentou diretamente sobre o processo. While xAI states it has zero tolerance for child sexual exploitation and removes violating material, it has not commented directly on the lawsuit.