Recentes investigações levantaram sérias preocupações sobre a segurança das respostas de saúde geradas pela inteligência artificial (IA) do Google.
O jornal britânico The Guardian conduziu uma análise, revelando que informações incorretas fornecidas pelo Google AI Overviews podem comprometer seriamente a saúde dos usuários.
Quais são os riscos do uso da IA do Google?
A pesquisa do The Guardian revelou que as respostas geradas pelo Google podem omitir contextos essenciais, levando a um potencial engano.
O fenômeno conhecido como “alucinação” da IA, onde o algoritmo gera dados sem base factual, foi identificado como um contribuidor para essas falhas. Apesar de a empresa afirmar investir continuamente na precisão das informações, a realidade observada mostra que o sistema ainda pode gerar resumos imprecisos.
A falta de precisão é especialmente preocupante quando consideramos a plataforma de busca como uma fonte primária de informações de saúde para muitos usuários.
Resposta do Google
O Google, consciente das críticas, afirma estar comprometido em aprimorar a qualidade das informações de saúde geradas pela IA. Após os resultados divulgados pela investigação, a empresa ajustou algumas de suas respostas nos resumos automáticos.
Apesar disso, observou-se que pequenas variações nas buscas podem ainda levar à exibição das mesmas informações incorretas, o que aponta para um problema de consistência e dependência do formato de busca.
De acordo com a empresa, a maioria de suas respostas ainda é precisa e útil. Quando questionados sobre remoções ou ajustes específicos, afirmaram que esses procedimentos são parte de um esforço contínuo para fortalecer a confiabilidade de suas ferramentas.
Caminhos para melhorias futuras
A confiança na tecnologia de IA para questões de saúde depende da sua precisão e contextualização. Enquanto as ferramentas continuam evoluindo, é fundamental que os usuários sejam educados sobre suas limitações.
Consultar profissionais de saúde qualificados e usar a internet apenas como complemento para informações adicionais pode prevenir riscos.
