医師たちは、人工知能が医療において役割を果たすと考えているものの、チャットボットとしての利用には、不正確な医療アドバイスの事例を挙げて注意を促しています。データ企業iMeritで外科医として勤務し、AIヘルスケアのリーダーでもあるシナ・バリ医師は、ある患者が自身が処方した薬に対し、ChatGPTからの情報として肺塞栓症のリスクが45%であると主張し、異議を唱えた経験を語りました。

バリ医師は、その統計が結核患者の特定のサブグループに焦点を当てた研究に由来するものであり、彼の患者の症例には無関係であることを突き止めました。この懸念にもかかわらず、バリ医師は、OpenAIが最近発表した、プライバシーを強化し、健康関連の会話に特化したチャットボットであるChatGPT Healthについて楽観的な見方を示しました。

ChatGPT Healthは、ユーザーが健康上の懸念について話し合うための、より安全な環境を提供することを目指しており、メッセージが基盤となるAIモデルのトレーニングに使用されないようにします。「素晴らしいと思います」とバリ医師は述べています。「すでに起こっていることなので、患者情報を保護し、いくつかの安全策を講じることで、患者が利用する上でより強力なものになるでしょう。」

医療界は、パーソナライズされたガイダンスや情報へのアクセス向上など、医療におけるAIの潜在的な利点を認識しています。しかし、専門家は、AIが生成した情報を資格のある医療専門家によって検証することの重要性を強調しています。その懸念は、AIモデルがデータを誤って解釈したり、個人の特定の病状に適用できないアドバイスを提供する可能性から生じています。

ChatGPT Healthは、数週間以内に展開される予定で、健康関連のAIインタラクションのための、より管理されたプライベートな環境を構築することで、これらの懸念に対処する取り組みを表しています。このプラットフォームは、患者情報を保護しながら、パーソナライズされたガイダンスを提供するように設計されています。この開発は、正確さと患者の安全に焦点を当て、AIを責任を持って医療に統合するためのステップとなります。