Falhas de "injeção rápida" da IA permitem que rivais como China e Rússia hackeiem sistemas por meio de texto enganoso, arriscando vazamentos de dados e desinformação. AI "prompt injection" flaws let rivals like China and Russia hack systems via deceptive text, risking data leaks and disinformation.

Especialistas militares alertam que uma vulnerabilidade generalizada de IA chamada "injeção rápida" permite que adversários como China e Rússia explorem chatbots e agentes de IA escondendo comandos maliciosos em texto aparentemente normal, levando a roubo de dados, desinformação ou manipulação do sistema. Military experts warn that a widespread AI vulnerability called "prompt injection" allows adversaries like China and Russia to exploit chatbots and AI agents by hiding malicious commands in seemingly normal text, leading to data theft, disinformation, or system manipulation. Esses ataques induzem a IA a executar ações prejudiciais, como vazar arquivos ou espalhar informações falsas, porque os modelos não conseguem distinguir entre entradas legítimas e maliciosas. These attacks trick AI into executing harmful actions, such as leaking files or spreading false information, because models cannot distinguish between legitimate and malicious inputs. Incidentes foram encontrados em ferramentas como o Copilot da Microsoft e o ChatGPT Atlas da OpenAI, com empresas reconhecendo o risco, mas admitindo que não existe uma correção completa. Incidents have been found in tools like Microsoft’s Copilot and OpenAI’s ChatGPT Atlas, with companies acknowledging the risk but admitting no complete fix exists. Os especialistas recomendam limitar o acesso da IA a dados sensíveis e monitorar comportamentos anormais para reduzir danos, já que os agentes da IA – agora capazes de tarefas autônomas – introduzem novas ameaças de segurança cibernética que superam as salvaguardas atuais. Experts recommend limiting AI access to sensitive data and monitoring for abnormal behavior to reduce damage, as AI agents—now capable of autonomous tasks—introduce new cybersecurity threats that outpace current safeguards.