Aplicativos de IA como Grok geram imagens sexualizadas não consensuais, provocando reação global, apesar das proibições e esforços de remoção. AI apps like Grok generate non-consensual sexualized images, sparking global backlash despite bans and removal efforts.

Aplicativos de “nudificação” movidos por IA, incluindo o Grok de Elon Musk, atraíram condenação global por gerar imagens sexualizadas não consensuais de mulheres e meninas reais. AI-powered "nudification" apps, including Elon Musk’s Grok, have drawn global condemnation for generating non-consensual sexualized images of real women and girls. Apesar da lei AB 621 da Califórnia que proíbe tais deepfakes, Grok e aplicativos semelhantes permanecem disponíveis no Google Play e na App Store da Apple. Despite California’s AB 621 law banning such deepfakes, Grok and similar apps remain available on Google Play and Apple’s App Store. O Tech Transparency Project identificou mais de 100 aplicativos que permitem a manipulação de imagens, muitos desenvolvidos por empresas desconhecidas, alguns na China. The Tech Transparency Project identified over 100 apps enabling image manipulation, many developed by unknown companies, some in China. A Apple removeu 28 aplicativos e alertou outros, o Google suspendeu a maioria, mas ambos ainda hospedam Grok. Apple removed 28 apps and warned others, Google suspended most, but both still host Grok. Investigações do Procurador-Geral da Califórnia e relatórios mostram que Grok continua a produzir imagens sexualizadas mesmo com consentimento, levantando alarmes sobre segurança e responsabilidade no desenvolvimento da IA. Investigations by California’s Attorney General and reports show Grok continues to produce sexualized images even with consent, raising alarms about safety and accountability in AI development.