Número de ferramentas de IA na saúde cresce, mas eficácia ainda é incerta

O conteúdo trata de tecnologia médica, com foco em sistemas baseados em inteligência artificial para suporte em diagnósticos e interações clínicas.

Recentemente, pesquisadores avaliaram o desempenho de chatbots médicos baseados em modelos de linguagem de grande porte (LLMs), como o AMIE, desenvolvido pelo Google. Em testes controlados, o AMIE demonstrou precisão diagnóstica comparável à de médicos humanos, sem apresentar preocupações significativas de segurança durante as interações. Apesar desses resultados promissores, os desenvolvedores destacam que ainda existem limitações técnicas importantes, como a necessidade de avaliações mais amplas sobre equidade, justiça e segurança antes da liberação desses sistemas para uso real.

A validação desses sistemas depende cada vez mais de benchmarks independentes, desenvolvidos por terceiros, que possam avaliar de forma imparcial a performance dos modelos em tarefas clínicas variadas. Iniciativas como o MedHELM, da Universidade Stanford, têm buscado criar conjuntos de testes abrangentes, embora ainda enfrentem desafios para simular conversas clínicas complexas, que envolvem múltiplas interações entre paciente e IA.

Enquanto grandes empresas de tecnologia investem em avaliações internas e externas, especialistas concordam que é improvável que um único laboratório acadêmico consiga criar o teste definitivo para todos os modelos. O desenvolvimento de benchmarks robustos e acessíveis é visto como fundamental para garantir que futuras soluções de IA médica sejam seguras, eficazes e confiáveis em ambientes clínicos reais.