責任あるソフトウェア工学

第1章. 責任あるソフトウェア工学：簡単な導入部

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

私の友人（ ）は全国メディアに記事を書いている。数年前、ある記事が過激派の目に留まり、彼らは電子メール、ソーシャルメディア、電話を通じて何千通もの攻撃的で憎悪に満ちたメッセージを送ってきた。私の友人にとってはストレスの塊だった。彼らは脅迫電話をブロックし、Google Voiceを使って通話を選別し始めた。Google Voiceをご存じない方のために説明しておくと、AIを使ってボイスメールのメッセージを書き起こし、メールで送ってくれるバーチャル電話回線である。

憎悪の嵐はやがて去った。時が過ぎ、生活は普通に戻った。友人はとにかくGoogleボイスを使い続けた。ある日、不穏なボイスメールのトランスクリプト（図1-1）を受け取るまでは："死んだ 死んだ 死んだ 死んだ 死んだ 死んだ..."

図1-1. Google Voiceによって書き起こされた不幸なボイスメールメッセージ。

このメッセージは何を意味しているのだろう？脅迫なのだろうか？恐ろしい憎悪の嵐がまた始まったのだろうか？心配になった友人はGoogleボイスに接続し、メッセージをディレクトリで聞いた。

呼び出しは脅迫ではなかった。ビープ音が何度も鳴り響いたのだ。グーグル・ボイスを動かすAIソフトウェアは、「ピー、ピー、ピー」という音を「死んだ、死んだ、死んだ」と書き換えていたのだ。

グーグル・ボイスを開発したエンジニア・チームは、自分たちの製品が誰かを怖がらせることを意図していなかったのは明らかだ。彼らの使命は、優れたアプリケーションを作成することだった。このインシデントは、たとえ最善の意図を持って開発されたソフトウェア製品であっても、ユーザに予期せぬ影響を与える可能性があることを示している。

私の友人の場合は、ボイスメールのメッセージを誤って受信した結果、数分間の不快感だけが残った。しかし、他のケースでは、リスクはもっと重大なものになる。この段落を書いた同じ日に、ある大手ハイテク企業が、少数のサンプリングから人間の声を模倣できるスマートフォンの機能を発表した。この機能は、病気や障害で声を失った人を助けるために、善意で開発されたように見える。しかし、ウォール街の大手投資会社は、顧客がパスワードなしで金融口座にアクセスできるように音声認識を利用している。音声模倣技術と音声認識技術が出会うとどうなるかは、天才でなくても予想がつく。¹

ソフトウェア・エンジニアの仕事の一部は、アプリケーションを実世界で実行する際に、その有害な影響を予見し、防止することである。この考え方は、責任あるソフトウェア工学と呼ばれている。この章では、本書の残りの部分の基礎となる、責任あるソフトウェア工学の概念をいくつか紹介する。この章では、責任あるソフトウェアエンジニアリングとは何か、またそうではないのかについて学び、少し歴史を巡り、これから出てくる主要なテーマを予習する。

レスポンシブル・ソフトウェア・エンジニアリングとは何か？

レスポンシブル・ソフトウェア・エンジニアリングとは、社会的に有益で、地球やそこに住む人々に害を与えないソフトウェア製品を開発することを意味する。その定義をひとつずつ紐解いていこう： ...