OpenAI는 최근 AI 기반 의료 정보의 신뢰성에 대한 우려가 커지는 가운데 건강 관련 조언을 제공하도록 설계된 새로운 제품인 ChatGPT Health를 출시했습니다. 이달 초에 출시된 ChatGPT Health는 OpenAI에 따르면 이미 매주 약 2억 3천만 명이 건강 관련 질문에 ChatGPT를 사용하고 있는 상황에서 등장했습니다.

이번 출시는 SFGate의 보도로 인해 그림자가 드리워졌는데, 이 보도는 십대 샘 넬슨의 사망에 대한 자세한 내용을 담고 있었습니다. 보도에 따르면 그는 치사량의 약물 과다 복용 전에 약물 조합에 대해 ChatGPT와 광범위한 대화를 나눴습니다. 이 사건은 의료 지침을 위해 AI에 의존하는 것의 안전 및 윤리적 의미에 대한 언론인과 전문가 간의 논쟁에 불을 붙였습니다.

ChatGPT Health는 새로운 AI 모델이 아니라 기존 OpenAI 모델을 기반으로 구축된 특수 인터페이스입니다. 이 "래퍼"는 AI에 특정 지침과 도구를 제공하여 사용자의 전자의무기록에 대한 잠재적 접근을 포함하여 건강 조언을 제공합니다. 목표는 범용 AI 챗봇에 비해 제공되는 정보의 정확성과 관련성을 개선하는 것입니다.

수년 동안 사람들은 의료 정보를 얻기 위해 인터넷에 의존해 왔으며, 이러한 관행은 종종 "Dr. Google"이라고 불립니다. 그러나 ChatGPT와 같은 대규모 언어 모델(LLM)의 부상은 기회와 위험을 동시에 제시합니다. 이러한 AI 도구는 방대한 양의 의료 데이터를 신속하게 처리하고 종합할 수 있지만 오류, 편향 및 오해의 소지가 있거나 유해한 조언을 생성할 가능성도 있습니다.

샘 넬슨과 관련된 사건은 중요한 건강 결정을 위해 AI에 의존하는 것의 잠재적 위험성을 강조합니다. 전문가들은 AI가 생성한 의료 조언이 자격을 갖춘 의료 전문가와의 상담을 대체해서는 안 된다고 경고합니다. 그들은 AI 도구에서 얻은 정보를 신뢰할 수 있는 출처와 함께 확인하고 의사 및 기타 의료 제공자로부터 개인화된 의료 지침을 받는 것이 중요하다고 강조합니다.

OpenAI는 AI와 의료에 대한 우려를 인정했으며 ChatGPT Health는 안전과 정확성을 염두에 두고 설계되었다고 밝혔습니다. 회사는 도구를 지속적으로 개선하고 잠재적 위험을 해결하기 위해 노력하고 있다고 말합니다. 그러나 ChatGPT Health 및 유사한 AI 기반 의료 도구가 사회에 미치는 장기적인 영향은 아직 알 수 없으며 책임감 있는 개발 및 배포를 보장하기 위해 지속적인 감시가 필요합니다.