機械学習デザインパターン ―データ準備、モデル構築、MLOpsの実践上の問題と解決

7章責任あるAIのパターン

ここまで、本番利用に向けたモデルの準備や訓練を行うデータエンジニアリングチームにとって有効なパターンを中心に紹介してきました。これらのパターンは、主に機械学習モデルの開発プロセスに直接関わるチームを対象としています。しかし、モデルが本番稼働すると、その影響はモデルを構築したチームをはるかに超えて広がります。本章では、モデルに関する組織内外の利害関係者（stakeholders）について考えます。利害関係者には、モデルの利用目標を決定するビジネス目標を持つ経営層、モデルの利用者、監査人、コンプライアンス規制当局などが含まれます。

本章では、モデルの利害関係者をいくつかのグループに分けます。

モデル構築者

モデルの構築に直接携わるデータサイエンティストや機械学習研究者。

機械学習エンジニア

機械学習モデルのデプロイに直接関わる機械学習システムの運用チームのメンバー。

ビジネスの意思決定者

自社のビジネスプロセスや顧客向けアプリケーションに機械学習モデルを組み込むかどうかを決定し、モデルがこの目的に適しているかどうかを評価します。

機械学習システムのエンドユーザ

機械学習モデルによる予測結果を利用する人たちが該当し、顧客、従業員、これらの組み合わせなどさまざまな種類があります。例えば、モデルから映画を推薦される顧客、目視検査モデルを使って製品の破損の有無を判断する工場の従業員、モデルを使って患者を診断する医療従事者などです。

コンプライアンス管理機関

規制や法令の遵守の有無や違反の防止といった管理の観点から、モデルがどのように意思決定を行っているかについて、方針の概要を必要とする人や組織。これには、財務監査人、政府機関、または組織内のガバナンスチームが含まれます。 ...