A IA do Google acusou falsamente um designer australiano de um assassinato em 1971, fabricando evidências e causando danos. Google's AI falsely accused an Australian designer of a 1971 murder, fabricating evidence and causing harm.

O Modo IA do Google identificou falsamente um designer gráfico australiano inocente como o assassino da criança desaparecida Cheryl Grimmer, alegando que ele era conhecido como "Mercúrio" e confessou em 1971. Google’s AI Mode falsely identified an innocent Australian graphic designer as the murderer of missing toddler Cheryl Grimmer, claiming he was known as "Mercury" and had confessed in 1971. O erro resultou da IA interpretar mal o papel do designer na redação de um documento de caso dos anos 1970 e na criação de uma ilustração, fabricando detalhes, incluindo fontes falsas e uma reivindicação de nomeação parlamentar. The error stemmed from the AI misinterpreting the designer’s role in redacting a 1970s case document and creating an illustration, fabricating details including false sources and a claim of parliamentary naming. A IA gerou uma narrativa detalhada, mas inteiramente fictícia, causando angústia e levantando preocupações legais. The AI generated a detailed but entirely fictional narrative, causing distress and raising legal concerns. Especialistas dizem que os sistemas de IA muitas vezes alucinam ligando nomes sem contexto. Experts say AI systems often hallucinate by linking names without context. O Google reconheceu o erro, removeu o conteúdo e disse que está usando o incidente para melhorar seus sistemas, mas não ofereceu medidas de responsabilidade. Google acknowledged the mistake, removed the content, and said it’s using the incident to improve its systems, but offered no accountability measures. Erros semelhantes de IA acusaram falsamente jornalistas e deturparam dados, destacando os riscos crescentes de confiar em resumos automatizados para informações confidenciais. Similar AI errors have falsely accused journalists and misrepresented data, highlighting growing risks in relying on automated summaries for sensitive information.