O Google remove as visões gerais de IA para determinadas consultas médicas

Seguindo uma investigação do Guardian que descobriu que as visões gerais de IA do Google ofereciam informações enganosas em resposta a certas consultas relacionadas à saúde, a empresa parece ter removido as visões gerais de IA para algumas dessas consultas.

Por exemplo, o Guardian relatou inicialmente que quando os utilizadores perguntassem “qual é o intervalo normal para análises ao sangue do fígado”, seriam apresentados números que não levavam em conta factores como nacionalidade, sexo, etnia ou idade, levando-os potencialmente a pensar que os seus resultados eram saudáveis, quando não o eram.

Agora, o Guardião diz As visões gerais de IA foram removidas a partir dos resultados de “qual é o intervalo normal para exames de sangue do fígado” e “qual é o intervalo normal para testes de função hepática”. No entanto, descobriu que variações nessas consultas, como “intervalo de referência lft” ou “intervalo de referência de teste lft”, ainda poderiam levar a resumos gerados por IA.

Quando tentei essas consultas esta manhã – várias horas depois que o Guardian publicou sua história – nenhuma delas resultou na visualização de visões gerais de IA, embora o Google ainda me desse a opção de fazer a mesma consulta no modo AI. Em vários casos, o principal resultado foi, na verdade, o artigo do Guardian sobre a remoção.

Um porta-voz do Google disse ao Guardian que a empresa não “comenta sobre remoções individuais na Pesquisa”, mas que trabalha para “fazer melhorias amplas”. O porta-voz disse também que uma equipa interna de médicos analisou as questões destacadas pelo Guardian e descobriu que “em muitos casos, as informações não eram imprecisas e também eram apoiadas por websites de alta qualidade”.

O TechCrunch entrou em contato com o Google para comentários adicionais. No ano passado, a empresa anunciou novos recursos destinados a melhorar a Pesquisa Google para casos de uso de saúde, incluindo visões gerais aprimoradas e modelos de IA focados na saúde.

Vanessa Hebditch, diretora de comunicações e política do British Liver Trust, disse ao Guardian que a remoção é uma “excelente notícia”, mas acrescentou: “Nossa maior preocupação com tudo isso é que estamos escolhendo um único resultado de pesquisa e o Google pode simplesmente desligar as visões gerais de IA para isso, mas não está abordando o problema maior das visões gerais de IA para a saúde”.