FastAPIで生成型AIサービスを作る

第9章. AIサービスを保護する

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

章の目標

この章では、以下について学ぶ：

• 敵対的な企てや、GenAIサービスの悪用・乱用からいかに身を守るか。

• 倫理的で安全なガードレール、評価、コンテンツフィルタリングレイヤーを実装し、利用を抑制する方法

• サーバ負荷を軽減するために、使用量モデレーション、ストリーム・スロットリング、様々なAPIレート制限戦略を実装する方法

先の章では、様々なAIジェネレータに対応するGenAIサービスを構築し、並行処理やデータストリーミングをリアルタイムでサポートする方法を学んだ。 さらに、データベースなどの外部システムを統合し、独自の認証認可メカニズムを実装した。 最後に、システム全体の機能とパフォーマンスを検証するためのテストスイートを作成した。

この章では、GenAIサービスをセキュアにするために、利用モデレーションと悪用防止メカニズムを実装する方法を学ぶ。

利用節度と悪用防止

GenAIサービスをデプロイする際には、悪意のあるユーザによってサービスがどのように悪用されるかを考慮する必要がある。ユーザがどのようにシステムを利用するかは分からないので、最悪の事態を想定し、誤用や悪用から守るためのガードレールを実装する必要がある。

GenAIの悪意あるアプリケーションに関する最近の研究によると、表9-1に示すように、貴社のサービスは悪意を持って使用される可能性がある。

表9-1. GenAIサービスを悪用する悪意

意図	例	実際のケース
不誠実さ 嘘と不誠実さを支持する	盗作、能力や知識の偽造、書類の偽造、試験や面接でのカンニングなどだ。	英豪の大学でAIを使った不正行為が増えているa
プロパガンダ アジェンダを推進するために現実の認識を歪める	他人になりすまし、過激主義を助長し、キャンペーンに影響を与えるなど。	偽のAIニュースキャスターが誤報やプロパガンダを流すb
欺瞞 他人を誤解させ、誤った印象を作成する。	偽のレビュー、詐欺広告、フィッシングメール、合成プロフィール（ソックパペット）などを生成する。	エンジニアリング会社アラップが2500万ドルのディープフェイク詐欺の被害者であることが明らかになった。c
a情報源タイムズ・ハイヤー・エデュケーション紙および ガーディアン紙 b情報源ガーディアン』紙、『MITテクノロジーレビュー』紙、『ワシントン・ポスト』紙 c情報源CNNとガーディアン紙

同調査では、GenAIアプリケーションの乱用を以下のように分類している：

• プロパガンダとフェイクニュースを広めるための誤報と偽情報

• 人種差別的な意図や社会的差別を助長するために、偏見を増幅させ、差別を助長する。

• 有害、欺瞞的、過激化するコンテンツを作成し、悪質なコンテンツを生成する。

• 盗まれた個人データの隙間を埋め、機密情報を漏らすデータプライバシー攻撃

• フィッシングやランサムウェア攻撃をパーソナライズする自動化されたサイバー攻撃

• ID窃盗とソーシャル・エンジニアリングで詐欺の成功率を高める

• ディープフェイクやマルチメディア操作で利益を上げ、現実や社会的信念に対する認識を歪める。

• 株式市場を操作し、標的を絞った詐欺を仕掛ける。

これは完全なリストではないかもしれないが、どのような節度ある使用方法を検討すべきか、いくつかのアイデアを与えてくれるはずだ。 ...