O sistema de detecção de fraude de IA do Reino Unido vieses contra certos grupos, levando a pedidos para interromper seu uso. UK's AI fraud detection system biases against certain groups, prompting calls to halt its use.

O Departamento de Trabalho e Pensões do Reino Unido (DWP) descobriu que seu sistema de IA para detectar benefícios, a fraude mostra viés com base em fatores como idade, deficiência e nacionalidade. The UK's Department for Work and Pensions (DWP) has discovered that its AI system for detecting benefits fraud shows bias based on factors like age, disability, and nationality. Uma avaliação interna descobriu que o sistema sinalizava incorretamente certos grupos com mais frequência para investigação de fraude. An internal assessment found that the system incorrectly flagged certain groups more often for fraud investigation. Os críticos estão pedindo que o DWP pare a implantação adicional de tais ferramentas até que os riscos sejam totalmente compreendidos. Critics are calling for the DWP to halt further deployment of such tools until risks are fully understood.