O sistema de vigilância de IA de São Paulo prendeu quase 4.000 pessoas até 2025, incluindo muitas erroneamente, provocando preocupações de privacidade e preconceito. São Paulo’s AI surveillance system arrested nearly 4,000 people by 2025, including many wrongly, sparking privacy and bias concerns.

O sistema de vigilância Smart Sampa AI, de São Paulo, lançado em 2024, usa reconhecimento facial em 40.000 câmeras para identificar fugitivos e suspeitos, alegando ter capturado 3.000 fugitivos e preso quase 4.000 pessoas, contribuindo para uma queda de quase 15% nos roubos até 2025. São Paulo’s Smart Sampa AI surveillance system, launched in 2024, uses facial recognition across 40,000 cameras to identify fugitives and suspects, claiming to have captured 3,000 fugitives and arrested nearly 4,000 people, contributing to a nearly 15% drop in robberies by 2025. No entanto, mais de 8% dos detidos foram libertados devido a erros, incluindo um homem de 80 anos e pacientes psiquiátricos detidos injustamente. However, over 8% of those arrested were later released due to errors, including an 80-year-old man and psychiatric patients wrongly detained. Pelo menos 141 prisões envolveram mandados de prisão desatualizados, e muitos indivíduos alvo enfrentaram ofensas civis, como apoio à criança não remunerada, levantando preocupações sobre o uso do sistema para a aplicação civil. At least 141 arrests involved outdated warrants, and many targeted individuals faced civil offenses like unpaid child support, raising concerns about the system’s use for civil enforcement. Os críticos destacam a falta de dados raciais, tornando impossível avaliar o viés algorítmico e observam que o sistema afeta desproporcionalmente bairros periféricos e migrantes mais pobres. Critics highlight a lack of racial data, making algorithmic bias impossible to assess, and note the system disproportionately affects poorer, peripheral neighborhoods and migrants. Enquanto as autoridades negam o preconceito e enfatizam a segurança pública, os defensores dos direitos civis alertam para violações de privacidade e desigualdades sistêmicas. While officials deny bias and emphasize public safety, civil rights advocates warn of privacy violations and systemic inequities.