データサイエンスのための数学入門 ―Pythonで学ぶ線形代数、確率、統計の基礎

6章ロジスティック回帰と分類

本章ではロジスティック回帰について説明します。ロジスティック回帰は、ひとつ以上の独立変数を与えて、ある事象の確率を予測する回帰の一種です。この確率は分類にも利用できます。分類とは、線形回帰のように具体的な値を予測するのではなく、カテゴリを予測するものです。

我々は、変数を常に無限の実数値として連続的（continuous）に表現したいわけではありません。ときには、変数を離散的（discrete）に、つまり自然数、整数、あるいは真偽値（0か1、trueかfalseなど）で表現したほうが適切な場合もあります。ロジスティック回帰は、0または1の二値やカテゴリを示す整数値などの離散的な値を出力変数として訓練します。また、確率自体は連続変数の形で出力されますが、しきい値を使えばこの値を離散的な値に変換することができます。

ロジスティック回帰は実装が簡単で、また、外れ値などのデータに関する問題にもある程度耐性があります。そのため、機械学習のさまざまな場面で、他の教師あり学習の手法よりも実用面やパフォーマンスの面で優れているケースが多く見られます。

「5章　線形回帰」で線形回帰を扱いましたが、そのときと同様に、本章でも統計と機械学習の双方の視点のバランスを取りながら、両分野のツールや分析手法を活用して解説を進めていきます。ロジスティック回帰は、2章の確率から5章の線形回帰まで、この本で学んできた多くの概念を統合するものです。

6.1　ロジスティック回帰を理解する

ある架空の事例で考えてみましょう。小規模な労働災害が発生し、化学物質への曝露が人体に及ぼす影響を調査することになりました。手元に11人の患者のデータ（架空のデータですが）があり、人によってこの化学物質に ...