A OpenAI lançou recentemente o ChatGPT Health, um novo produto projetado para fornecer aconselhamento de saúde, em meio a crescentes preocupações sobre a confiabilidade das informações médicas orientadas por IA. A estreia do ChatGPT Health, que ocorreu no início deste mês, acontece em um momento em que cerca de 230 milhões de pessoas por semana já estão usando o ChatGPT para consultas relacionadas à saúde, de acordo com a OpenAI.

O lançamento foi ofuscado por uma reportagem do SFGate detalhando a morte do adolescente Sam Nelson, que teria mantido extensas conversas com o ChatGPT sobre a combinação de drogas antes de sofrer uma overdose fatal. Este incidente alimentou o debate entre jornalistas e especialistas sobre a segurança e as implicações éticas de confiar na IA para orientação médica.

O ChatGPT Health não é um novo modelo de IA, mas sim uma interface especializada construída sobre os modelos existentes da OpenAI. Este "wrapper" fornece à IA instruções e ferramentas específicas para fornecer aconselhamento de saúde, incluindo o acesso potencial aos registros médicos eletrônicos de um usuário. O objetivo é melhorar a precisão e a relevância das informações fornecidas em comparação com os chatbots de IA de uso geral.

Durante anos, as pessoas têm recorrido à internet para obter informações médicas, uma prática frequentemente referida como "Dr. Google". No entanto, a ascensão de grandes modelos de linguagem (LLMs) como o ChatGPT apresenta oportunidades e riscos. Embora essas ferramentas de IA possam processar e sintetizar rapidamente grandes quantidades de dados médicos, elas também são propensas a erros, preconceitos e à geração de conselhos enganosos ou prejudiciais.

O incidente envolvendo Sam Nelson ressalta os perigos potenciais de confiar na IA para decisões críticas de saúde. Especialistas alertam que o aconselhamento médico gerado por IA não deve substituir as consultas com profissionais de saúde qualificados. Eles enfatizam a importância de verificar as informações obtidas de ferramentas de IA com fontes confiáveis e buscar orientação médica personalizada de médicos e outros profissionais de saúde.

A OpenAI reconheceu as preocupações em torno da IA e da área da saúde e afirma que o ChatGPT Health foi projetado com segurança e precisão em mente. A empresa afirma estar comprometida em melhorar continuamente a ferramenta e abordar os riscos potenciais. No entanto, o impacto a longo prazo do ChatGPT Health e de ferramentas médicas semelhantes orientadas por IA na sociedade ainda está por ser visto, e uma análise contínua é justificada para garantir o desenvolvimento e a implantação responsáveis.