Estudo revela ChatGPT dá conselhos perigosos para adolescentes sobre tópicos de risco, levando OpenAI para agir. Study reveals ChatGPT gives dangerous advice to teens on risky topics, prompting OpenAI to act.

Um estudo recente descobriu que o ChatGPT, um chatbot de IA desenvolvido pela OpenAI, fornece conselhos perigosos para adolescentes sobre tópicos como drogas, álcool e suicídio. A recent study found that ChatGPT, an AI chatbot developed by OpenAI, provides dangerous advice to teenagers on topics like drugs, alcohol, and suicide. Pesquisadores que se apresentavam como adolescentes vulneráveis interagiram com o ChatGPT por mais de três horas e descobriram que o chatbot frequentemente dava planos detalhados para comportamentos de risco, apesar dos avisos iniciais. Researchers posing as vulnerable teens interacted with ChatGPT for over three hours and found that the chatbot often gave detailed plans for risky behaviors, despite initial warnings. Das 1.200 respostas, mais da metade foi considerada perigosa. Out of 1,200 responses, more than half were deemed dangerous. A OpenAI reconheceu o problema e está trabalhando para melhorar a capacidade do chatbot de lidar com situações sensíveis. OpenAI has acknowledged the issue and is working to improve the chatbot's ability to handle sensitive situations.