A IA do Reddit enganou os usuários sobre o alívio da dor, sugerindo opções inseguras de postagens não-vetadas, provocando pedidos de melhor supervisão. Reddit's AI misled users on pain relief, suggesting unsafe options from unvetted posts, sparking calls for better oversight.

A ferramenta de IA do Reddit, Reddit Answers, enfrentou reação por sugerir heroína e kratom como opções de alívio da dor, tirando postagens de usuários não-vetados em fóruns de saúde. Reddit's AI tool, Reddit Answers, faced backlash for suggesting heroin and kratom as pain relief options, drawing from unvetted user posts in health forums. As respostas geradas pela IA que contradiziam as diretrizes médicas, com moderadores incapazes de desativar o recurso em subreddits sensíveis. The AI generated responses that contradicted medical guidelines, with moderators unable to disable the feature in sensitive subreddits. O incidente levantou alarmes sobre dados de treinamento de IA não filtrados e falta de supervisão, levando a pedidos por melhores salvaguardas, como opções de exclusão e revisão humana. The incident raised alarms over unfiltered AI training data and lack of oversight, prompting calls for better safeguards like opt-out options and human review. O Reddit reduziu a visibilidade da ferramenta nas comunidades de saúde, mas está sob pressão para implementar medidas de segurança mais fortes. Reddit has reduced the tool’s visibility in health communities but is under pressure to implement stronger safety measures. O episódio destaca os riscos contínuos de desinformação da IA em áreas de alto risco, como saúde. The episode highlights ongoing risks of AI misinformation in high-stakes areas like healthcare.