Estudo revela que os sistemas de IA não têm treinamento em empatia e ética, propondo um novo método para alinhar a IA com valores sociais. Study reveals AI systems lack training in empathy and ethics, proposing a new method to align AI with societal values.

Pesquisadores da Universidade Purdue descobriram que os sistemas de IA são treinados principalmente em valores de informação e utilidade, muitas vezes com vista para valores pró-sociais, bem-estar e cívicos. Researchers from Purdue University found that AI systems are trained primarily on information and utility values, often overlooking prosocial, well-being, and civic values. O estudo examinou três conjuntos de dados usados pelas principais empresas de IA e encontrou uma falta de treinamento em empatia, justiça e direitos humanos. The study examined three datasets used by major AI companies and found a lack of training on empathy, justice, and human rights. A equipe introduziu um método chamado de aprendizado por reforço a partir do feedback humano para ajudar os sistemas de IA a se alinharem com os valores da sociedade, usando conjuntos de dados selecionados para garantir o comportamento ético e melhor servir os valores da comunidade. The team introduced a method called reinforcement learning from human feedback to help AI systems align with societal values, using curated datasets to ensure ethical behavior and better serve community values.