責任あるソフトウェアエンジニアリング ―現実社会におけるGoogleのケーススタディとともに

はじめに

本書は14秒で生まれました。それは私が2020年のドキュメンタリー映画「The Social Dilemma」†1（邦題「監視資本主義：デジタル社会がもたらす光と影」†2） の中で、ある衝撃的なシーンを観た時間です。この映画は、ソーシャルメディア企業が私たちの健康や人間関係、民主主義そのものにとって有害となり得る手法をいかに用いているかを描いています。説得力のある場面もあれば誇張されていると感じる場面もありましたが、その中の14秒間が私のソフトウェア開発に対する見方を一変させたのです。

問題のシーンは、元FacebookエンジニアであるJustin Rosensteinへのインタビューです。彼は「いいね」ボタンの開発者でした。映画の中で彼は、チームが「いいね」を発明した「唯一の動機」は「世界にポジティブさと愛を広めること」だったと語っています。しかし、その発明が10億を超えるユーザーに届くにつれ、彼とチームは社会に深刻な悪影響を及ぼす可能性を予見していなかったことに気づいたのです。 「十代の若者が十分な「いいね」を得られないことで鬱状態に陥ったり、政治的な分断を招いたりする可能性など、私たちの想定の範囲外でした。」†3

この場面が私の胸に引っかかりました。というのも、私は「いいね」ボタンが考案された2007年当時、Webアプリケーションのコーディングをしていたからです。もし、運命が私をFacebookのJustin Rosensteinのチームに配属していたら、どうなっていただろう？「いいね」ボタンの潜在的なリスクを事前に予測できただろうか？それとも、その発明の素晴らしさにただ夢中になっていただろうか？それはわかりません。しかし、これほど経験豊富なソフトウェアエンジニアたちが最善の意図をもって行動しながら、このような予期せぬ複雑性を伴うプロダクトを生み出してしまう可能性があるという事実に、私は強い関心を抱きました。そして考え始めました。ソフトウェアエンジニアのコミュニティとして、私たちが構築するシステムがもたらす、こうした望ましくない影響を予測し、防止することを学べないだろうか？この本は、その問いに対する私なりの答えです。 ...