データサイエンスのための数学入門 ―Pythonで学ぶ線形代数、確率、統計の基礎

付録C統計的有意性の落とし穴

江川 崇

本付録は日本語版オリジナルの記事です。本稿では、データの統計的な解釈における落とし穴についてもう少し深堀りしたいと思います。

データを意味のある形で分析し、分析に十分な時間をかけることが、プロジェクトの成否に大きく影響すると本書では述べられています。「5章　線形回帰」で詳しく触れられているとおり、統計において「相関がある」とは、2つの変数に強い関係があることを意味し、相関係数を求めることで、変数間の相関の有無やその程度を確認できます。しかし、たとえ相関が見られたとしても、それが単なる偶然の産物である可能性があります。そこで、相関が偶然の産物かどうかを統計的に検証する指標としてp値が用いられます。p値を使えば、帰無仮説の下で、観測された相関係数が偶然に生じる確率を評価することができます。

ただし、p値によって統計的有意性が確認できたとしても、その結論を鵜呑みにして無条件に信用するのは必ずしも適切ではありません。統計的有意性は重要な指標のひとつですが、それだけで結論の妥当性が保証されるわけではありません。たとえば研究デザインに欠陥がある場合やデータの測定方法に偏りや誤差がある場合は、そこから導かれる結論は信頼できません。さらに言えば、「3章　記述統計と推測統計」で紹介されていたpハッキングのような恣意的な分析が行われていれば、結果が捏造に近い形で作られている可能性すらあります。本稿では、こうした統計に潜む罠や落とし穴を具体例とともに解説していきます。

C.1　相関に潜む統計の罠

具体的な例を挙げてみましょう。表C-1のデータセットは、ある地域で購入されているアイスクリームの売上と、その地域の犯罪件数の推移を示したものです。

表C-1　ある地域のアイスクリームの売上と犯罪件数 ...