PyTorchとfastaiではじめるディープラーニング ―エンジニアのためのAIアプリケーション開発

3章データ倫理

謝辞：Dr. Rachel Thomas

　本章はfast.aiの共同設立者の一人であり、サンフランシスコ大学の応用データ倫理センターの創立センター長であるDr. Rachel Thomasとの共著として書かれた。本章の内容は、彼女による講義「Introduction to Data Ethics」（https://ethics.fast.ai）のシラバスに沿っている。

　「1章　ディープラーニングへの旅路」や「2章　モデルから実運用へ」で説明したように、機械学習モデルの応用がうまくいかない場合がある。バグがあることもあるだろう。訓練時に与えられなかったデータに対して、期待していないような挙動を示すこともあるだろう。さらには、設計された通りに動いたにもかかわらず、われわれがまったく望まないような形で使われてしまうこともあるだろう。

　ディープラーニングは非常に強力な道具で、さまざまな目的に使えるので、われわれは自分の選択の結果を特によく考える必要がある。倫理哲学は、善と悪との学問だ。倫理哲学では、善と悪の定義、善行と悪行の区別、行動と結果の関係を学ぶ。データ倫理の分野は古くから存在し、多くの研究者がこの分野で活動している。データ倫理はさまざまな分野でのポリシー策定や、企業の大小を問わず製品開発の社会的結果を改善するために用いられている。また、研究結果が悪用されないことを望む研究者にも用いられてきた。

　ディープラーニング実践者である読者の皆さんも、いつかはデータ倫理について考えなければならない時が来る。では、データ倫理とは何だろうか？ データ倫理は倫理の一分野なので、まずは倫理の話から始めよう。

Jeremy曰く大学では、倫理哲学は私の専門だった（もし中退して実社会に出ていなければ、倫理哲学で学位論文を書いていたはずだ）。倫理について私が何年か学んだことから言えるのは、次のことだけだ。何が正しくて、何が間違っているかに関して互いに合意することはできない。正しいこと、間違っていることがあるのかどうか、どうしたら区別できるのか、誰がいい人で誰が悪い人なのかを含め、ほとんどすべてのことについて、互いに合意することはできない。だから、理論にはあまり期待しないでほしい。ここでは、理論には頼らず、実例を挙げてそこから考えていく。 ...