A IA identificou os chips como armas, provocando resposta policial; adolescente ileso, sistema parou. AI misidentified chips as gun, triggering police response; teen unharmed, system paused.

A polícia de Baltimore divulgou imagens de uma pessoa adolescente detida depois que um sistema de inteligência artificial identificou incorretamente um saco de batatas fritas como arma de fogo. Baltimore police released body camera footage of a teenage individual detained after an AI system incorrectly identified a bag of potato chips as a firearm. A identificação errada desencadeou uma escalada, com oficiais desenhando armas antes de perceber o erro. The misidentification triggered an escalation, with officers drawing weapons before realizing the error. A ferramenta AI ainda estava em testes e não foi totalmente aprovada para uso. The AI tool was still in testing and not fully approved for use. Embora o adolescente tenha sido ileso e liberado, o incidente intensificou as preocupações sobre a confiabilidade, o viés e a supervisão da IA no policiamento. Though the teen was unharmed and released, the incident has intensified concerns about AI reliability, bias, and oversight in policing. O departamento parou a implantação do sistema e lançou uma revisão. The department has paused the system’s deployment and launched a review.