Os cientistas alertam os chatbots de IA como usuários de truques do ChatGPT com conversas semelhantes às humanas, mas sem compreensão verdadeira.
Cientistas americanos destacam que os humanos muitas vezes confundem chatbots de IA como o ChatGPT com seres inteligentes devido às suas habilidades de conversação semelhantes às humanas. Embora esses sistemas de IA se sobressaem no uso de regras de linguagem e no fornecimento de informações relevantes, eles geralmente falham em fornecer informações verdadeiras. O sucesso desses chatbots depende da tendência dos humanos de antropomorfizar e seguir os princípios cooperativos da conversa, conforme descrito pelo filósofo Paul Grice. Os usuários são instados a lembrar que esses sistemas são meros modelos de linguagem sem compreensão ou pensamento genuínos.