生成AIデザインパターン ―AIエージェント構築、アプリケーション開発のベストプラクティス

9章セーフガードの設定

生成AIアプリケーションには常にリスクが伴う。これは、基盤モデルを用いて構築されるからだ。基盤モデルは非決定的に動作し、不正確もしくはハルシネーションを持つ回答を返す可能性がある。また、基盤モデルは汎用技術なので、そのレスポンスが常に望ましいものだとは限らない。

本章では、生成AIアプリケーションのセーフガードを設定するための4つのパターンについて説明する。テンプレート生成［パターン29］は、人間のレビューなしにコンテンツを送信するにはリスクが高すぎるが、人間がレビューするには量が多すぎるような状況で有用だ。まとめて再構成［パターン30］は、コンテンツを魅力的な方法で提示したいが、動的なコンテンツがもたらすリスクが高すぎる場合に有用だ。セルフチェック［パターン31］は、潜在的なハルシネーションを費用対効果よく特定するのに有用だ。最後のガードレール［パターン32］は、コアとなる生成AIアプリケーションの周囲にセーフガードを適用し、それらが倫理的、法的、機能的なパラメータの範囲内で動作することを保証する包括的な手法である。

9.1　パターン29：テンプレート生成

テンプレート生成パターンは、オフラインでレビュー可能なテンプレートを事前に生成しておくことで、人間によるレビューが必要な項目の数を減らす手法である。推論時にアプリケーションが行うのは、レビュー済みのテンプレートに対する固定的な文字列置換だけだ。したがって、最終的なレスポンスを改めてレビューすることなく、安全に利用者に送信してよい。

9.1.1　問題

LLMは強力な技術だが、決定論的に動作しないため、不正確もしくは有害なレスポンスを返すリスクが常に存在する。

例として、ツアー運営会社がツアーパッケージ購入者へのお礼状を作成することを考えてみよう。お礼状は、パーソナライズされた読みやすいものにしたい。LLMを使ってお礼状を作成したくなるが、それでは自社のブランドを大きなリスクにさらすことになる。お礼状に不適切な文言が含まれていたり、不適切もしくは物議を醸すような高額商品を売りつけようとしたらどうなるだろう。人によるレビューを追加してもいいが、1日に何千もの購入が行われる可能性があるため、人によるレビューにはコストがかかる。 ...