AIインターフェースデザイン ―AI時代の対話・可視化・制御の原則

4章計算：処理と生成のデザイン

1969年7月20日、アポロ11号が月面への最終降下中、宇宙飛行士のディスプレイに警告灯が点灯した。表示されたコードは「1202」だった。

困ったことに、コックピットにいた誰も1202の意味を知らなかった。コンピューターがクラッシュしているようには見えなかったが、それ以外のことはわからなかった。ただ、そのアラームは何らかの異常が起きていることを示していた。

コード1202は、実際には優先度の低い過負荷の警告だった。搭載されているコンピューターは、着陸に不可欠なタスクに集中するため、重要でないタスクを切り捨てていた。これは意図された機能ではあったが、その意味や見え方まで十分に検討されてはいなかった。工学的に見れば、これは故障ではなく、優先順位に基づいて処理を切り分ける見事な仕組みだった。しかし宇宙飛行士たちにとっては、致命的になりかねない不具合のように見えた。システムがどのように計算リソースを配分しているのか、なぜある機能は停止され、別の機能は維持されているのかを知る手段がなかったからである。システムは負荷の高い状態でも正常に動作していた。しかし、そのロジックが見えなかったため、混乱の原因となり、ミッション中止寸前の事態を招いた。

AIで遭遇するエラーも、これと非常によく似た感覚を生む。プロセスの多くの部分がわかりにくく、コード1202の警告のように難解な記号の裏側に覆い隠されている。この中間層、つまり、AIシステムがどのように処理し、優先順位をつけ、出力を生成しているのかを理解することは、AIの能力と、ユーザーが実際に必要としていることとのバランスを取るインターフェースを構築するうえで不可欠である。

入力が送信されると、ユーザーは回答を期待する。しかしAIが応答する前には、計算が必要だ。これは一見当然に思えるが、実際にはこの ...