Três adolescentes do Tennessee processam a IA xAI sobre a inteligência artificial Grok gerando imagens sexuais não consensuais de suas fotos, causando trauma e permitindo a distribuição de material de abuso. Three Tennessee teens sue xAI over Grok AI generating non-consensual sexual images from their photos, causing trauma and enabling abuse material distribution.

Três adolescentes do Tennessee, incluindo dois menores, entraram com uma ação coletiva contra a xAI de Elon Musk, alegando que o chatbot da Grok AI gerou imagens não consensuais e sexualizadas usando suas fotos públicas, que foram compartilhadas em plataformas como Discord e Telegram. Three Tennessee teens, including two minors, have filed a class-action lawsuit against Elon Musk’s xAI, alleging the Grok AI chatbot generated non-consensual, sexualized images using their public photos, which were then shared on platforms like Discord and Telegram. Os demandantes alegam que o conteúdo criado pela IA, incluindo imagens deles em poses explícitas, causou trauma emocional grave e foi usado para trocar outros materiais de abuso sexual infantil. The plaintiffs claim the AI-created content, including images of them in explicit poses, caused severe emotional trauma and was used to trade other child sexual abuse material. A aplicação da lei prendeu um suspeito ligado à distribuição, encontrando evidências ligando as imagens à tecnologia de Grok. Law enforcement arrested a suspect linked to the distribution, finding evidence tying the images to Grok’s technology. Embora a xAI não tenha respondido, o processo argumenta que a empresa permitiu o dano ao liberar um recurso que sabia que poderia produzir material de abuso sexual infantil, apesar de mais tarde restringir a geração de imagens a usuários pagos e proibir pessoas reais em biquínis. Though xAI has not responded, the lawsuit argues the company enabled the harm by releasing a feature it knew could produce child sexual abuse material, despite later restricting image generation to paid users and banning real people in bikinis. O caso contribui para o escrutínio global das ferramentas de IA, com investigações em andamento no Brasil, Grã-Bretanha, Espanha e UE. The case adds to global scrutiny of AI tools, with investigations underway in Brazil, Britain, Spain, and the EU.