LLMsとヘルスケアのためのジェネレーティブAI

第6章. LLMの倫理的活用に舵を切る

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

結局のところ、 のテクノロジーを医療に利用する目的は、その根本的な機能を進化させ、患者、臨床医、そしてすべての医療従事者の転帰と経験を改善することである。大規模言語モデル（LLM）によって、ヘルスケア・ソリューションの設計と提供の中身を根本的に変えることができる。医療知識や症例データへのアクセスを改善し、患者と医療提供者の間を仲介することで、その効果は大きくなる可能性がある。

これは、ヘルスケアの文脈におけるAIモデル開発に意図的に焦点を当てることから始まる。AIは、医療に関連する多様なトレーニングデータセットを意図的に収集し、AIが「フードを開けて」判断に至った経緯を説明できるインタプリタビリティ機能を導入し、すべての患者集団の公平な扱いを保証するアルゴリズム監査と監視プロトコルを提案することができる。最大限の利益や最大限の投資利益率ではなく、医療の価値と質、そして医療への公平なアクセスが目標であるべきだ。医療におけるAIのポジティブな効果を示す論文やケーススタディは数多くある。¹

最終的には、医療における訓練されたモデルの監督も、これらの信条を遵守する必要がある。これには、モデルにできること、できないことの倫理的開示のモデル化、患者の守秘義務と医療倫理の厳格な遵守の法制化、アルゴリズムによる危害に対する効果的な救済経路の維持、組織の説明責任と何よりも患者の福祉の尊重を促進するための内部告発の支持などが含まれる。このようなインフラの中で、LLMは、多元主義と集合的な医学知識の促進に役立つ公衆衛生のツールとなりうる。

この章では、医療におけるLLMの倫理的課題と責任ある開発、特に患者のアウトカムと体験を向上させる可能性とその落とし穴について検討する。この章では、ヘルスケアにおけるAI、特にLLMの潜在的な活用と成果について議論する。次の章では、ヘルスケアにおけるLLMの使用に伴う倫理的な課題を取り上げる。この章では、様々なヘルスケアセットで使用されるLLMの異常な振る舞いをどのように監視、検出、防止するかという問題を取り上げる。最後に、最後の章では、医療現場で使用されるLLMに関するセキュリティとプライバシーの問題を取り上げる。特に、患者のプライバシーを保護するために分散されたデータ上でLLMを訓練するというアイデアである連合学習と、データセット中の個人のプライバシーを確保するための数学的フレームワークである差分プライバシーについて述べる。

善の力としてのAI：医療の改善

サイエンス・フィクションではしばしば、 AIがもたらすリスクが描かれる。大衆文化では、悪いテクノロジーが人間のコントロールを失って空回りするディストピア的な物語が語られる。ロボットの反乱、人類を滅ぼす人工知能（AGI）、AIのシンギュラリティなどを思い浮かべるかもしれない。共通しているのは、AIの知能が人間に近づくにつれ、人間と認知的に競争するということは、人間と競争するということであり、それは災いの元であるということだ。カレル・チャペックの戯曲『R.U.R.』（1920年）で「ロボット」という言葉が紹介されて以来、大衆文化はしばしば人工知能を黙示録の前触れ、つまり我々の仕事、自律性、そして人生そのものを脅かすマシンとして描いてきた。現代の神話は、時に新たな信念体系によって増幅され、AIが意識を獲得し、最終的に人類を滅ぼすと主張することで、この物語をさらに発展させている。 ...