A Microsoft identifica falhas de segurança em mais de 100 produtos de IA, como a Cisco prevê que a IA agentical dominará. Microsoft identifies security flaws in over 100 AI products, as Cisco predicts agentic AI will dominate.

A equipe vermelha de IA da Microsoft divulgou um whitepaper detalhando vulnerabilidades em mais de 100 produtos de IA generativos, destacando novos riscos, como injeção rápida e questões tradicionais, como software desatualizado. Microsoft's AI red team has released a whitepaper detailing vulnerabilities in over 100 generative AI products, highlighting new risks like prompt injection and traditional issues such as outdated software. Enquanto isso, a Cisco prevê que a IA antrópica dominará, oferecendo recursos avançados de resolução de problemas, mas levantando preocupações sobre segurança e manuseio de dados. Meanwhile, Cisco predicts that agentic AI will dominate, offering advanced problem-solving capabilities but raising concerns about security and data handling. Especialistas enfatizam a necessidade de testes contínuos e supervisão humana para proteger os sistemas de IA de forma eficaz. Experts stress the need for continuous testing and human oversight to secure AI systems effectively.