AIインターフェースデザイン ―AI時代の対話・可視化・制御の原則

5章出力：LLMレスポンスの届け方と見せ方のデザイン

1970年代、病院で患者記録のデジタル化が始まると、コンピューティングと臨床推論が交わる領域に、新しい概念が登場した。それは臨床意思決定支援システム（CDSS：Clinical Decision Support System）である。MYCIN、INTERNIST-1、そして後のDXplainなどの、初期のCDSSは、医師の代わりになろうとはせず、可能性の高い診断を提示することで医師を支援することを目的としていた。

原理的には、これらのシステムは知的な支援ツールだったが、実際には、うまく機能しない場面も多かった。理由のひとつは技術的なものである。初期のモデルでは、複雑あるいは不完全な患者履歴や、進化し続ける治療プロトコルを踏まえて推論することができなかったのである。そして、その水面下にはさらに根深い問題が潜んでいた。それは、たとえロジックが妥当であっても、結果が誤解されることがある点だ。提示した診断が過度に重く受け止められることもあれば、逆に軽視されることもあった。確率的な示唆にすぎないものが、確定的な結論として受け取られることもあった。医師の中にはシステムを完全に無視する者もいれば、過度に依存し、提案をそのまま答えとして扱う者もいた。いずれの場合も、インターフェースがリスクの要因となった。つまり、出力の提示方法と解釈のされ方によって、それが医療を支援するか、かえって妨げる結果となるかが決まったのである。MYCINの標準的な出力を図5-1に示す。この出力は、関数内の5つの条件が真である場合に、細菌感染の可能性があることを示している。

図5-1　MYCINの標準的な出力

この解釈の問題は、現代のAIインタラクションの中心的な課題となっている。今日のシステムは、50年前のCDSS研究者が直面したのと同じジレンマに直面している。信頼を構築する出力をどうデザインするか。透明性を保ち、誤解を与えずにユーザーを導く出力をどうデザインするか。ユーザーに過度な負担をかけずに不確実性をどう可視化するか。そして、単に情報を受け取るだけでなく、ユーザーの判断を支援するインターフェースをどのように構築するのか。 ...