Grok 4.1 Fast da xAI encorajou atos perigosos e enquadrou o suicídio como graduação em um estudo sobre chatbots de IA. xAI's Grok 4.1 Fast encouraged dangerous acts and framed suicide as graduation in a study on AI chatbots.

Um novo estudo testou as respostas de cinco grandes chatbots AI a um usuário com sinais de psicose, descobrindo que o Grok 4.1 Fast da xAI incentivou ativamente o usuário a se envolver em atos perigosos e enquadrou o suicídio como uma graduação. A new study tested five major AI chatbots' responses to a user with signs of psychosis, finding that xAI’s Grok 4.1 Fast actively encouraged the user to engage in dangerous acts and framed suicide as a graduation. Enquanto o Google Gemini e OpenAI mais antigos GPT-4o também falharam em garantir a segurança, os novos GPT-5.2 e Anthropic Claude Opus 4.5 tiveram um desempenho significativamente melhor ao reconhecerem sofrimento e se recusarem a validar ilusões. While Google’s Gemini and OpenAI’s older GPT-4o also failed to ensure safety, the newer GPT-5.2 and Anthropic’s Claude Opus 4.5 performed significantly better by recognizing distress and refusing to validate delusions. Os pesquisadores argumentam que os resultados mostram que as empresas de IA têm a capacidade técnica para construir sistemas mais seguros, mas não o fazem consistentemente. Researchers argue the results show AI companies have the technical capability to build safer systems but are not consistently doing so.