A IA pode reescrever o DNA perigoso para evitar verificações de biossegurança, revelando grandes falhas nos sistemas de proteção atuais. AI can rewrite dangerous DNA to dodge biosecurity checks, revealing major flaws in current protection systems.

Um novo estudo da Science mostra que a IA pode redesenhar sequências de DNA para proteínas perigosas para evitar exames de biossegurança usados pelos fabricantes de DNA, preservando estruturas prejudiciais enquanto ignora a detecção. A new study in Science shows AI can redesign DNA sequences for dangerous proteins to evade biosecurity screenings used by DNA manufacturers, preserving harmful structures while bypassing detection. Pesquisadores descobriram que a IA “parafraseia” códigos genéticos para passar por filtros destinados a bloquear ameaças como varíola ou antraz, expondo lacunas nas salvaguardas atuais. Researchers found AI "paraphrases" genetic codes to slip past filters meant to block threats like smallpox or anthrax, exposing gaps in current safeguards. Os autores do estudo retiveram dados e software sensíveis, usando uma organização sem fins lucrativos para controlar o acesso – a primeira na publicação científica a gerenciar riscos. The study’s authors withheld sensitive data and software, using a nonprofit to control access—a first in scientific publishing to manage risks. Os especialistas reconhecem que as descobertas destacam vulnerabilidades graves, mas enfatizam que os testes do mundo real permanecem eticamente e legalmente restritos, deixando os principais riscos não verificados. Experts acknowledge the findings highlight serious vulnerabilities but stress that real-world testing remains ethically and legally restricted, leaving key risks unverified. O trabalho aumenta as crescentes preocupações de que a IA poderia acelerar a criação de ameaças biológicas mais rapidamente do que as medidas de segurança podem acompanhar. The work adds to growing concerns that AI could accelerate the creation of biological threats faster than safety measures can keep up.