ChatGPTの医療対話を向上させる、OpenAIの「ドクター・ウィスパラー」とは

もし最近、ChatGPTがあなたの腰痛についてより適切なアドバイスをくれるようになったと感じているなら、それはおそらく数千マイル離れた場所にいる医師のおかげでしょう。

毎週、3億人以上の人々が健康関連のアドバイスを求めてChatGPTを利用しています。ヘルスケア分野におけるAI開発を導くため、OpenAIは世界中から数百人の現役医師を招集しました。

49の言語を話すこれらの契約医師たちは、ユーザーや医師がチャットボットと交わす可能性のある会話の例を評価し、ユーザーを混乱させたり、身体的な危険にさらしたりする可能性のある箇所を探しています。

これらの取り組みを率いる医師、Rebecca Soskin Hicksは2024年にOpenAIに入社して以来、医師と会社の間でヘルスケアにおけるAIを改善するために働く、いわば「医師たちの橋渡し役」のような存在になっています。

「これは非常に重大な責任を伴う分野です」とSoskin Hicksは語りました。「『これで十分だ』というゴールはありません。私の知る限り、私たちは改善に向けて無期限に、継続的に歩みを進めていくことになります。」

確かにリスクは高いと言えます。7月には、ある牧師がOpenAIを提訴しました。自身の肺の健康危機に関する詳細へのChatGPTの回答が原因です。彼は、GPT-4oモデルが症状を誤診し、過小評価したと主張しており、訴訟ではOpenAIに対し、ヘルスケア関連製品の運用停止を求めています。

医師のネットワークが健康のためのAI改善に役立つことを期待し、OpenAIは、チャットボット、医学的助言、および製造物責任をめぐる法的状況が未整備であるにもかかわらず、突き進むことを選択しました。OpenAIのヘルスケア製品責任者であるAshley Alexanderは、AIは数百万人の人々がすでに行っているインターネット検索を改善するものだと述べています。

医学的決定の背後にあるストーリーのすべてをチャットボットとして扱うことは状況を「単純化しすぎている」と彼女は言い、「この有益な影響をできるだけ多くの人々の手に届けることの妨げになるリスクがある」と述べました。

「私たちは、Chatが診断や治療に使用されるべきではないことを非常に明確にしています」とAlexanderは述べました。同社の利用規約にもそう記されています。質問されれば、チャットボットは病気や怪我の評価を支援する提案を実際に行います。

医師がChatGPTの健康アドバイスの「ギャップ」を探る

ChatGPTの健康アドバイスを改善する任務は、研究者と医師に課せられています。Soskin Hicksは、同社のヘルスケア研究を率いるKaran Singhalと共に医師チームを構築しました。Singhalは今年初め、Business Insiderに対し、患者にChatGPTを「彼らのケアの道のりにおける保護者」として見てほしいと語っていました。