A ferramenta de transcrição de IA do OpenAI, o Whisper, frequentemente “alucina” em ambientes médicos, levando a riscos potenciais. OpenAI's AI-transcription tool, Whisper, frequently "hallucinates" in medical settings, leading to potential risks.

Os pesquisadores descobriram que a ferramenta de transcrição da OpenAI, Whisper, frequentemente “alucina” gerando frases falsas, levantando preocupações em indústrias de alto risco, como a saúde. Researchers have found that OpenAI's AI-powered transcription tool, Whisper, frequently "hallucinates" by generating false sentences, raising concerns in high-risk industries like healthcare. Apesar das advertências da OpenAI contra seu uso em áreas sensíveis, muitas instalações médicas a adotaram para transcrever consultas de pacientes. Despite OpenAI's warnings against its use in sensitive areas, many medical facilities have adopted it for transcribing patient consultations. Especialistas estão pedindo regulamentações federais para resolver essas questões, enquanto a OpenAI reconhece o problema e está trabalhando em melhorias. Experts are calling for federal regulations to address these issues, while OpenAI acknowledges the problem and is working on improvements.

October 26, 2024

130 Artigos