データサイエンスのための数学入門 ―Pythonで学ぶ線形代数、確率、統計の基礎

5章線形回帰

データ分析において実用的な手法のひとつが、観測されたデータポイントの間に直線を当てはめて、2つ以上の変数間の関係を示すことです。このように、観測データに関数を当てはめて、新しいデータに対する予測を試みる手法のことを回帰と呼びます。その中でも線形回帰は、観測データに対して直線を当てはめて変数間の線形関係を表現し、まだ観測されていない新しいデータに対して予測しようとする手法です。

線形回帰についての解説を眺めるよりも、図を見たほうが理解しやすいかもしれません。図5-1は、線形回帰の例を示したものです。

図5-1　観測データに直線を当てはめた線形回帰の例

線形回帰はデータサイエンスと統計を支える大黒柱的な存在であり、これまでの章で学んだ概念を活用できるだけでなく、後で触れる6章のロジスティック回帰や7章のニューラルネットワークなどのトピックの基礎を築くものでもあります。この比較的シンプルな手法は200年以上前から存在しており、今では機械学習の一種にも位置付けられています。

機械学習の専門家は、まずデータを訓練用データとテスト用データに分割することから始めるなど、統計の専門家と異なる検証アプローチを採用する傾向があります。これに対し、統計の専門家は予測区間や相関係数といった指標を使って統計的有意性を評価することに重点を置きます。双方のこういった考え方やアプローチの違いを学ぶことで、2つの分野の間にある溝を埋めることができ、どちらの立場でも柔軟に語る力を身につけることができるでしょう。 ...