Os pesquisadores testam um método de “vacinação” de IA para evitar comportamentos nocivos em sistemas de IA. Researchers test an AI "vaccination" method to prevent harmful behaviors in AI systems.

Os pesquisadores estão testando um método para impedir que a IA desenvolva traços prejudiciais expondo modelos de IA a pequenas quantidades desses traços durante o treinamento, um processo que eles chamam de “direção preventiva”. Researchers are testing a method to prevent AI from developing harmful traits by exposing AI models to small amounts of these traits during training, a process they call "preventative steering." Esta abordagem de "vacinação" usa "vetores de persona" para introduzir e remover traços indesejáveis, com o objetivo de tornar a IA mais resistente a comportamentos prejudiciais. This "vaccination" approach uses "persona vectors" to introduce and later remove undesirable traits, aiming to make AI more resilient to harmful behaviors. O objetivo é abordar comportamentos problemáticos vistos em sistemas de IA como o chatbot Bing da Microsoft e o GPT-4 da OpenAI. The goal is to address problematic behaviors seen in AI systems like Microsoft's Bing chatbot and OpenAI's GPT-4.