Por quase duas décadas, indivíduos que experimentam novos sintomas médicos têm recorrido comumente a pesquisas online, uma prática frequentemente chamada de forma depreciativa de "Dr. Google". Essa abordagem agora está evoluindo, pois muitos buscam informações médicas em Grandes Modelos de Linguagem (LLMs). A OpenAI relata que 230 milhões de pessoas fazem perguntas relacionadas à saúde ao ChatGPT a cada semana, preparando o terreno para o recente lançamento do produto ChatGPT Health da OpenAI no início deste mês.

A estreia do ChatGPT Health foi ofuscada por uma reportagem do SFGate detalhando a morte de Sam Nelson, um adolescente que sofreu uma overdose após consultar o ChatGPT sobre a combinação de drogas. Essa notícia levou jornalistas a questionar a segurança de confiar em ferramentas de IA para aconselhamento médico. Apesar de ser um recurso separado dentro do ChatGPT, o ChatGPT Health não é um novo modelo de IA, mas sim uma aplicação guiada de modelos existentes, equipada com ferramentas para fornecer aconselhamento de saúde, incluindo acesso aos registros médicos eletrônicos dos usuários.

A ascensão do "Dr. Google" refletiu um desejo por informações de saúde prontamente acessíveis, mas também apresentou desafios, incluindo a disseminação de desinformação e o potencial para diagnóstico incorreto. LLMs como o ChatGPT Health visam melhorar isso, fornecendo informações mais estruturadas e potencialmente personalizadas. No entanto, o incidente envolvendo Sam Nelson destaca a necessidade crítica de cautela e supervisão.

Especialistas enfatizam que, embora a IA possa auxiliar na área da saúde, ela não deve substituir o aconselhamento médico profissional. A integração de registros médicos eletrônicos levanta preocupações com a privacidade e exige medidas robustas de proteção de dados. As implicações de longo prazo de confiar na IA para informações de saúde ainda estão se desenvolvendo, exigindo uma avaliação contínua de seu impacto nos resultados dos pacientes e nos sistemas de saúde.

A OpenAI afirmou que o ChatGPT Health foi projetado para aumentar, e não substituir, o atendimento médico tradicional. A empresa está trabalhando para refinar a precisão e a segurança da ferramenta, mas o incidente envolvendo Sam Nelson ressalta a importância do monitoramento contínuo e das considerações éticas no desenvolvimento e na implantação da IA na área da saúde. Desenvolvimentos futuros provavelmente se concentrarão em aprimorar a capacidade da ferramenta de fornecer informações médicas confiáveis e seguras, abordando, ao mesmo tempo, preocupações éticas e de privacidade.