A OpenAI anunciou na quarta-feira o lançamento do ChatGPT Health, uma versão especializada de seu chatbot de IA projetada para conversas sobre saúde e bem-estar, que permitirá aos usuários conectar seus registros médicos e de saúde. O recurso tem como objetivo fornecer respostas de saúde personalizadas, resumindo instruções de cuidados, preparando os usuários para consultas médicas e ajudando-os a entender os resultados dos exames.

A integração da IA generativa na área da saúde tem sido um tópico polêmico desde a estreia do ChatGPT no final de 2022, devido a preocupações com a precisão e o possível uso indevido. A IA generativa, como a usada no ChatGPT, cria novos conteúdos com base nos dados com os quais é treinada, mas é propensa a imprecisões e, às vezes, pode inventar informações.

O anúncio ocorre logo após a SFGate publicar uma investigação detalhando a morte de um homem de 19 anos da Califórnia em maio de 2025, que havia procurado aconselhamento sobre drogas recreativas no ChatGPT por 18 meses. O relatório destacou os riscos associados à confiança em chatbots de IA para orientação crítica, principalmente quando as medidas de segurança da IA falham. Este incidente serve como um exemplo dos perigos potenciais quando os indivíduos agem com base em conselhos errôneos da IA.

Apesar dessas limitações conhecidas, o novo recurso Health da OpenAI permitirá que os usuários vinculem registros médicos e aplicativos de bem-estar, como Apple Health e MyFitnessPal, ao ChatGPT. Isso levanta preocupações sobre a confiabilidade das informações fornecidas e o potencial para que os usuários interpretem mal ou façam uso indevido de conselhos de saúde gerados por IA.

Especialistas alertam que, embora a IA possa auxiliar na área da saúde, ela não deve substituir o aconselhamento médico profissional. A tendência da tecnologia de gerar informações imprecisas ou enganosas representa um risco significativo, especialmente ao lidar com questões de saúde delicadas. As implicações a longo prazo do uso da IA na área da saúde ainda estão sendo avaliadas, e pesquisas contínuas são necessárias para garantir a segurança do paciente e a privacidade dos dados.