Um sistema de IA do Reino Unido sinaliza aposentados idosos por fraude em quase 50 vezes a taxa de pessoas mais jovens, levantando preocupações sobre justiça e danos. A UK AI system flags elderly pensioners for fraud at nearly 50 times the rate of younger people, raising concerns about fairness and harm.

Um sistema de inteligência artificial do governo do Reino Unido está sinalizando os aposentados para fraude de benefícios em quase 50 vezes a taxa de requerentes mais jovens, de acordo com um relatório do Escritório Nacional de Auditoria, provocando preocupações sobre alvos injustos e danos a grupos vulneráveis. A UK government AI system is flagging pensioners for benefit fraud at nearly 50 times the rate of younger claimants, according to a National Audit Office report, sparking concerns about unfair targeting and harm to vulnerable groups. Embora a ferramenta tenha economizado £ 4,4 milhões e seja vista como mais eficaz do que os métodos tradicionais, os críticos alertam que corre o risco de identificar erroneamente pessoas idosas e desfavorecidas devido a dados falhos e falta de supervisão. While the tool has saved £4.4 million and is seen as more effective than traditional methods, critics warn it risks misidentifying elderly and disadvantaged people due to flawed data and lack of oversight. O governo trabalhista está pressionando uma grande campanha antifraude com 6,7 bilhões de euros em financiamento e novos poderes para acessar dados bancários, com o objetivo de economizar 9,6 bilhões de euros até 2030. The Labour government is pushing a major anti-fraud campaign with £6.7 billion in funding and new powers to access bank data, aiming to save £9.6 billion by 2030. No entanto, grupos de direitos humanos alertam que os sistemas automatizados podem erroneamente cortar benefícios, aprofundar a pobreza e corroer a confiança na segurança social, pedindo um foco na reforma sistêmica sobre medidas punitivas. However, human rights groups caution that automated systems could wrongly cut benefits, deepen poverty, and erode trust in social security, urging a focus on systemic reform over punitive measures.