高リスク分野のための機械学習 ―責任あるAI構築のための実践アプローチ

12章高リスクの機械学習で成功する方法

AIや機械学習は、何十年にもわたって研究されており、一部の分野においては、それと同じくらい長期間にわたり実際に利用されてきた。とはいえ、より広範な分野における機械学習の導入は、未だ初期段階にあると言える。機械学習は未成熟な部分があり、時にリスクの高い技術である。確かに、機械学習はエキサイティングであり、大きな可能性を秘めた技術ではあるが、それは決して魔法ではない。そして、機械学習を実践する人間が、魔法のような超能力を持っているわけでもない。我々も、そして我々が構築した機械学習システムも失敗する可能性がある。その現実を受け入れた上で、成功を目指すのであれば、システムに内在するリスクに対して積極的かつ継続的に対処していく必要がある。

本書では、全体を通して技術的なリスク軽減策とガバナンスのアプローチを提案してきた。この最終章では、機械学習においてより困難な問題に立ち向かうための指針として、アドバイスをいくつか提示する。もっとも、ここで述べる提案は、おそらく容易には実行できない。難しい問題を解決するには、多大な努力が必要となる。機械学習における課題も例外ではない。リスクの高い技術領域で成功を収めるためには、相応の準備と慎重な対応が求められる。たとえば、「すぐに試してみて、うまくいかなければ修正する」という手法は、バグの多いソーシャルアプリや単純なゲーム開発では有効に機能するかもしれない。しかし、このアプローチは、我々が月に到達したり、ジェット機で安全に世界中を移動したり、マイクロチップを製造したり、経済の根幹を支える技術を構築したりする際の方法論とは一致しない。リスクの高い機械学習を安全かつ信頼できる形で社会に提供するためには、他の工学分野と同様に、安全性と品質への真摯な取り組みが不可欠である。 ...