O Google retirou resumos de saúde da IA da pesquisa devido a conselhos imprecisos e potencialmente perigosos. Google pulled AI health summaries from search due to inaccurate, potentially dangerous advice.

O Google removeu resumos de saúde gerados pela IA de seus resultados de pesquisa depois de descobrir que continham informações imprecisas ou enganosas que poderiam colocar os usuários em perigo. Google has removed AI-generated health summaries from its search results after discovering they contained inaccurate or misleading information that could endanger users. As revisões da IA, que condensaram dados médicos como os intervalos de teste de função hepática, não conseguiram levar em conta fatores-chave como idade, sexo e etnia, potencialmente dando aos pacientes falsa tranquilidade. The AI Overviews, which condensed medical data like liver function test ranges, failed to account for key factors such as age, sex, and ethnicity, potentially giving patients false reassurance. Embora o Google tenha afirmado que a maioria dos conteúdos foi apoiada por fontes respeitáveis e exibida apenas quando confiante na precisão, especialistas alertam que simplificar demais dados complexos de saúde pode atrasar os cuidados necessários. Though Google stated most content was backed by reputable sources and only displayed when confident in accuracy, experts warn that oversimplifying complex health data risks delaying necessary care. A empresa continua revisando as consultas afetadas, mas algumas variações ainda desencadeiam resumos de IA potencialmente inseguros, levantando preocupações sobre a confiabilidade da IA nos cuidados de saúde. The company continues reviewing affected queries, but some variations still trigger potentially unsafe AI summaries, raising concerns about AI reliability in healthcare.