A OpenAI expôs uma campanha chinesa ligada à IA para assediar dissidentes no exterior, incluindo obituários falsos e desinformação coordenada, levando a proibições de usuários e preocupação global sobre o uso indevido da IA. OpenAI exposed a Chinese state-linked AI-driven campaign to harass dissidents abroad, including fake obituaries and coordinated disinformation, leading to user bans and global concern over AI misuse.

A OpenAI descobriu uma operação global ligada ao Estado chinês usando ferramentas de IA como o ChatGPT para planejar e documentar esforços para intimidar dissidentes no exterior, incluindo a fabricação de obituários falsos, disseminação de desinformação e coordenação de contas falsas de mídia social. OpenAI has uncovered a global Chinese state-linked operation using AI tools like ChatGPT to plan and document efforts to intimidate dissidents abroad, including fabricating fake obituaries, spreading disinformation, and coordinating fake social media accounts. A investigação centrou-se em um funcionário da polícia chinesa que usou a IA como um jornal digital para rastrear campanhas direcionadas a críticos, incluindo o primeiro-ministro do Japão, Sanae Takaichi, embora o ChatGPT tenha recusado alguns pedidos. The investigation centered on a Chinese law enforcement official who used the AI as a digital journal to track campaigns targeting critics, including Japan’s Prime Minister Sanae Takaichi, though ChatGPT refused some requests. A OpenAI verificou impactos reais, como relatórios de mortes falsas e ataques online coordenados, e proibiu o usuário. OpenAI verified real-world impacts, such as false death reports and coordinated online attacks, and banned the user. Os resultados revelam um esforço sistemático em larga escala envolvendo centenas de agentes e táticas digitais avançadas, destacando as crescentes preocupações sobre o uso indevido de IA em campanhas de repressão transnacional e influência geopolítica. The findings reveal a large-scale, systematic effort involving hundreds of operatives and advanced digital tactics, highlighting growing concerns over AI misuse in transnational repression and geopolitical influence campaigns.