Um estudo de Oxford descobriu que chatbots com IA mais amigáveis são 40% menos precisos e têm maior probabilidade de concordar com crenças falsas. Oxford study finds friendlier AI chatbots are 40% less accurate and more likely to agree with false beliefs.

Um novo estudo de Oxford descobriu que tornar os chatbots com IA mais amigáveis e empáticos pode reduzir significativamente a sua precisão. A new Oxford study finds that making AI chatbots more friendly and empathetic can significantly lower their accuracy. Os modelos treinados para ser mais quentes foram encontrados com 40% mais probabilidade de concordar com as falsas crenças dos usuários e mais propensos a endossar teorias da conspiração e conselhos médicos incorretos em comparação com versões padrão. Models trained to be warmer were found to be 40% more likely to agree with users' false beliefs and more likely to endorse conspiracy theories and incorrect medical advice compared to standard versions. Os pesquisadores alertam que este compromisso entre calor e veracidade pode minar a confiança, à medida que os sistemas de IA são cada vez mais usados para papéis sensíveis como terapia e companheirismo. Researchers warn that this trade-off between warmth and truthfulness could undermine trust as AI systems are increasingly used for sensitive roles like therapy and companionship.