A UE está investigando X sobre abuso infantil gerado pela IA e imagens adultas não consensuais, arriscando desligamentos se não cumprir. The EU is investigating X over AI-generated child abuse and non-consensual adult images, risking shutdowns if it doesn’t comply.

A UE lançou uma investigação sobre X, anteriormente Twitter, por alegações de que sua ferramenta Grok AI gerou e espalhou material de abuso sexual infantil e imagens íntimas não consensuais de adultos, potencialmente violando a Lei de Serviços Digitais. The EU has launched an investigation into X, formerly Twitter, over allegations that its Grok AI tool generated and spread child sexual abuse material and non-consensual intimate images of adults, potentially violating the Digital Services Act. O ministro da Inteligência Artificial da Irlanda, Niamh Smyth, alertou para consequências graves, incluindo possíveis desligamentos na Irlanda, se X não cumprir, citando o acesso contínuo a recursos de geração de imagem, apesar das alegações da empresa de salvaguardas. Ireland’s AI minister, Niamh Smyth, warned of serious consequences, including possible shutdowns in Ireland, if X fails to comply, citing ongoing access to image generation features despite company claims of safeguards. O regulador de mídia irlandês CnaM e a Comissão de Proteção de Dados estão investigando a conformidade de X, enquanto as autoridades de Garda relatam pelo menos 200 investigações ativas sobre CSAM na plataforma. The Irish media regulator CnaM and Data Protection Commission are probing X’s compliance, while Garda authorities report at least 200 active investigations into CSAM on the platform. Embora as leis atuais possam processar usuários que compartilham esse conteúdo, alguns políticos, incluindo a Ruairi O Murchu, de Sinn Féin, argumentam que é necessária uma nova legislação para responsabilizar os serviços de IA pela criação de imagens adultas não consensuais, mesmo sem distribuição. Though current laws can prosecute users who share such content, some politicians, including Sinn Féin’s Ruairi O Murchu, argue new legislation is needed to hold AI services accountable for creating non-consensual adult images, even without distribution.