生成AIデザインパターン

第9章 セーフガードの設定 セーフガードをセットする

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

、GenAIアプリケーションには常にリスクが伴う。それは、基盤モデルの上に構築されるからである。基盤モデルは非決定論的な技術であり、不正確な答えやハルシネーションの答えを提供する可能性がある。基盤モデルもまた一般化されたテクノロジーであるため、そのレスポンスは必ずしもあなたが望むものと一致するとは限らない。

この章では、GenAIアプリケーションのセーフガードを設定するのに役立つ4つのパターンについて説明する。テンプレート生成（パターン29）は、人間のレビューなしにコンテンツを送信することに伴うリスクが非常に高いが、人間のレビューでは通信量に対応できないような状況で有用である。組み立てリフォーマット（パターン30）は、コンテンツを魅力的な方法で表示する必要があるが、動的なコンテンツがもたらすリスクが高すぎる場合に役立つ。セルフチェック（パターン31）は、潜在的なハルシネーションを費用対効果よく特定するのに役立つ。最後に、Guardrails（パターン32）は、コアとなるGenAIアプリケーションの周囲にセーフガードを適用し、それらが倫理的、法的、機能的なパラメータの範囲内で動作することを保証するための包括的な方法である。

パターン29：テンプレート生成

Template Generationパターンは、オフラインでレビューできるテンプレートを事前に生成することで、 、人間によるレビューが必要な項目の数を減らす。推論時にアプリケーションが行う必要があるのは、レビューされたテンプレートに対する決定論的な文字列置換だけである。これにより、最終的なレスポンスは、追加レビューなしでコンシューマに安全に送信できる。

問題点

LLMは強力なテクノロジーである。 、しかし決定論的なものではないので、そのレスポンスが不正確であったり有害であったりするリスクは常にある。

例えば、あなたがツアー・パッケージを購入した人へのお礼状を作成する演算子だとする。このお礼状は、パーソナライズされた、非常に読みやすいものにしたい。LLMを使ってお礼状を作成したい気持ちはやまやまだが、それでは自社のブランドが大きなリスクにさらされることになる。ノートに不適切な文言が含まれていたり、不適切な、あるいは物議を醸すような商品をアップセルしようとしたらどうだろう？人によるレビューのステップを追加することもできるが、1日に何千もの購入が行われる可能性があるため、人によるレビューにはコストがかかる。

LLMを使って礼状を作成し、すべての礼状を人手によるレビューにかける費用を避ける方法はないだろうか。

解決策

LLMを使って 礼状を直接生成する代わりに、LLMを使って礼状のテンプレートを生成することができる（図9-1参照）。テンプレートは人間がレビューし、適切に編集できる。また、数発学習や第2章から 第8章にある多くのパターンを使って、出来上がったコンテンツが地に足のついたものであること、ブランド・ボイスであることなどを確認し、編集作業を最小限に抑えることもできる。

図9-1. テンプレート生成：人間がレビューできるいくつかのテンプレートを作成し、推論時にそのまま使用する。 ...