OpenAIは最近、AIによる医療情報の信頼性に対する懸念が高まる中、健康に関するアドバイスを提供するように設計された新製品「ChatGPT Health」を発表しました。OpenAIによると、今月初めに発表されたこの製品は、推定で毎週2億3000万人がすでに健康関連の質問にChatGPTを利用している状況を受けて登場しました。この開発は、医療アドバイスへのAIの利用に対する監視が強化されている時期に起こっています。

ChatGPT Healthの発表は、SFGateの報道によって影を落とされました。その報道では、昨年、薬の組み合わせについてChatGPTにアドバイスを求めたとされる10代の少年、サム・ネルソンが過剰摂取で死亡したことが詳しく述べられています。この事件は、ジャーナリストや専門家の間で、医療ガイダンスをAIに依存することの安全性と倫理的影響に関する議論を活発化させました。

ChatGPT Healthは、新しいAIモデルではなく、既存のOpenAIモデル上に構築された特殊なインターフェースです。この「ラッパー」と表現されるものは、AIに健康関連の問い合わせに合わせた特定の指示とツールを提供します。また、ユーザーの電子カルテにアクセスできるため、よりパーソナライズされたアドバイスを提供する可能性があります。

オンラインでの症状検索、いわゆる「Dr. Google」の台頭は、過去20年間一般的な慣行でした。しかし、ChatGPTのような大規模言語モデル（LLM）の利用への移行は、正確性と説明責任に関する新たな疑問を提起しています。さまざまなソースへのリンクを提供する従来の検索エンジンとは異なり、LLMは情報を合成して直接的な回答を提供するため、基になるデータに欠陥がある場合や偏っている場合は、誤解を招いたり、有害でさえある可能性があります。

専門家は、ヘルスケアにおけるAIの限界を理解することの重要性を強調しています。AIは膨大な量のデータを処理し、パターンを識別できますが、人間の医療専門家のような批判的思考やニュアンスのある判断が欠けています。誤診、不適切な治療推奨、誤った情報の拡散の可能性は重大な懸念事項です。

ChatGPT Healthの現在の状況はまだ初期段階にあり、OpenAIは検証プロセスや安全対策に関する詳細な情報をまだ公開していません。同社は、AIが正確で信頼性が高く、偏りのない医療アドバイスを提供すると同時に、ユーザーのプライバシーとデータセキュリティを保護するという課題に直面しています。今後の開発では、AIのアルゴリズムの改良、医療専門家からのフィードバックの組み込み、ヘルスケア環境での使用に関する明確なガイドラインの確立に重点が置かれるでしょう。