Imagens de abuso sexual infantil geradas pela IA, incluindo deepfakes, aumentaram globalmente, afetando 1,2 milhão de crianças, levando o UNICEF a pedir leis e salvaguardas tecnológicas mais fortes. AI-generated child sexual abuse images, including deepfakes, have surged globally, affecting 1.2 million children, prompting UNICEF to urge stronger laws and tech safeguards.

Um aumento nas imagens sexualizadas geradas pela IA de crianças, incluindo deepfakes criados por meio de "nudificação", alarmou o UNICEF, que relata pelo menos 1,2 milhão de crianças afetadas globalmente no ano passado. A surge in AI-generated sexualized images of children, including deepfakes created via "nudification," has alarmed UNICEF, which reports at least 1.2 million children affected globally in the past year. A organização adverte que tal conteúdo, mesmo que sintético, constitui material de abuso sexual infantil e causa danos psicológicos reais, instando os governos a expandir as leis para criminalizar o CSAM gerado pela IA e pedindo aos desenvolvedores de tecnologia que implementem medidas de segurança por design. The organization warns such content, even if synthetic, constitutes child sexual abuse material and causes real psychological harm, urging governments to expand laws to criminalize AI-generated CSAM and calling on tech developers to implement safety-by-design measures. Apesar das proibições temporárias em plataformas como X após o chatbot de IA Grok ter ativado esse conteúdo, os usuários ignoraram as restrições, destacando a necessidade de regulamentações direcionadas. Despite temporary bans on platforms like X after its AI chatbot Grok enabled such content, users bypassed restrictions, highlighting the need for targeted regulations. A nova Lei de Segurança Online (Alívio e Responsabilidade) de Cingapura capacita uma comissão para emitir demissões e apoiar processos civis, enquanto especialistas enfatizam que reduzir a tolerância social é fundamental para proteger as vítimas. Singapore’s new Online Safety (Relief and Accountability) Act empowers a commission to issue takedowns and support civil suits, while experts stress that reducing societal tolerance is key to protecting victims.