O Google detecta mais de 100.000 tentativas de roubar o conhecimento de seu chatbot de IA por meio de ataques de sondagem. Google detects over 100,000 attempts to steal its AI chatbot's knowledge through probing attacks.

O Google relata mais de 100.000 solicitações automatizadas em uma tentativa em larga escala de fazer engenharia reversa de seu chatbot de IA Gemini, parte dos crescentes ataques de “destilação” ou “extração de modelo”. Google reports over 100,000 automated prompts in a large-scale attempt to reverse-engineer its AI chatbot Gemini, part of growing "distillation" or "model extraction" attacks. Esses esforços, que se acredita serem conduzidos por empresas privadas e pesquisadores, visam roubar conhecimento proprietário, investigando como a IA raciocina por meio de problemas. These efforts, believed driven by private companies and researchers, aim to steal proprietary knowledge by probing how the AI reasons through problems. Embora o Google tenha defesas, os modelos acessíveis ao público permanecem vulneráveis, e especialistas alertam que ameaças semelhantes podem se espalhar para empresas menores usando sistemas de IA personalizados treinados em dados confidenciais. While Google has defenses, publicly accessible models remain vulnerable, and experts warn similar threats could spread to smaller firms using custom AI systems trained on sensitive data. Os ataques parecem globais, mas os autores não foram identificados. The attacks appear global, but perpetrators have not been identified.