Pesquisadores australianos criaram o Silverer, uma ferramenta que envenena imagens para bloquear o abuso de IA, agora testando com a AFP. Australian researchers created Silverer, a tool that poisons images to block AI abuse, now testing with AFP.

Pesquisadores australianos desenvolveram uma ferramenta protótipo chamada Silverer para combater material de abuso infantil gerado pela IA e golpes deepfake usando envenenamento de dados para proteger imagens pessoais. Australian researchers have developed a prototype tool called Silverer to fight AI-generated child abuse material and deepfake scams by using data poisoning to protect personal images. Criada pela AFP e pelo Laboratório AiLECS da Universidade Monash, a ferramenta altera sutilmente as fotos antes de serem compartilhadas on-line, incorporando padrões invisíveis que confundem os modelos de IA. Created by the AFP and Monash University’s AiLECS Lab, the tool subtly alters photos before they’re shared online, embedding invisible patterns that confuse AI models. Quando os criminosos tentam usar essas imagens para treinar IA, os resultados são borrados ou distorcidos. When criminals try to use these images to train AI, the results are blurry or distorted. Atualmente em testes com a AFP, a ferramenta visa criar barreiras ao uso malicioso de IA e pode eventualmente estar disponível ao público para ajudar a proteger as identidades digitais. Currently in testing with the AFP, the tool aims to create barriers to malicious AI use and may eventually be available to the public to help protect digital identities.