A confiabilidade dos modelos de linguagem AI diminui para perguntas simples, apesar do melhor desempenho em tarefas complexas, como revelado por um estudo na Nature. AI language models' reliability decreases for simple questions, despite better performance on complex tasks, as revealed by a study in Nature.

Um estudo na Nature revela que modelos avançados de linguagem AI, como o ChatGPT, estão se tornando menos confiáveis na resposta a perguntas simples, apesar do melhor desempenho em tarefas complexas. A study in Nature reveals that advanced AI language models, such as ChatGPT, are becoming less reliable in answering simple questions, despite performing better on complex tasks. Pesquisadores de várias instituições descobriram que esses modelos muitas vezes não reconhecem quando não sabem respostas, levando a uma confiança equivocada. Researchers from several institutions found that these models often fail to acknowledge when they don't know answers, leading to misplaced confidence. O estudo exige redesenhar os sistemas de IA para incluir opções de rejeição e supervisão humana para melhorar a precisão e ajudar os usuários a entender suas limitações. The study calls for redesigning AI systems to include rejection options and human oversight to enhance accuracy and help users understand their limitations.