2級 教科書

3 級で「標本平均は母平均の良い推定量」「標準誤差は $\sigma /\sqrt{n}$」と学びました。本節ではその「良い推定量」が満たすべき性質、特に不偏性を整理し、標本分散と不偏分散の違い、標本平均の標本分布をもう一段精密に扱います。

推定量と推定値

不偏性

「平均的にはちょうど真の値を当てる」という性質。たくさんの標本を取って毎回 $\hat{\theta }$ を計算すれば、その値の平均がちょうど真の $\theta$ になる、という意味です。

標本平均は不偏

証明は期待値の線型性から一発: $E[\bar{X}]=\frac{1}{n}\sum E[X_i]=\frac{1}{n}\cdot n\mu =\mu$。

標本分散と不偏分散 ─ なぜ $n - 1$ で割るのか

標本のばらつきを測るとき、$s^2=\frac{1}{n}\sum (X_i-\bar{X}{)}^2$(標本分散)を使うと、実は母分散を過小評価してしまうことが知られています。なぜか?

理由は、平均が「真の母平均 $\mu$」ではなく「標本から計算した $\bar{X}$」になるから。$\bar{X}$ は標本に最もフィットする中心なので、各 $X_i$ から $\bar{X}$ への偏差は $\mu$ への偏差より平均して小さくなり、その分だけばらつきが小さく見積もられてしまう。

ポイントは「分母が $n-1$」。これで過小評価ぶんが補正され、平均的にきっちり ${\sigma }^2$ に当たります。実用統計ソフト(Excel・Python など)で「分散」と言うと、この不偏分散を返すものが多いので注意してください。

自由度 ─ なぜ $n - 1$?

$n-1$ は「自由度」と呼ばれます。$n$ 個の偏差 $X_i-\bar{X}$ には「合計が必ず $0$」という制約が 1 つあるため、自由に動ける個数は実質 $n-1$ 個。「情報量」が 1 つ減っているぶん、分母を 1 つ減らして補正している、と直感的に理解できます。

標本平均の標準誤差(再掲)

$\sigma$ が未知のときは不偏分散の平方根 $\hat{s}$ で代用し、$\mathrm{SE}(\bar{X})\approx \hat{s}/\sqrt{n}$ と推定します。この置き換えが、次節で登場する t 分布(母分散未知での母平均の推定・検定)につながります。

中心極限定理(精密版)

母集団の分布が正規分布でなくても、$n$ が十分大きければ標本平均は近似的に正規分布になる ─ という強力な定理。実務上の目安は $n\ge 30$ です(母集団が偏っているときはもっと必要)。次節以降の信頼区間や検定が「正規分布で計算できる」のは、この定理のおかげです。

3 級で学んだ母平均の信頼区間 $\bar{X}\pm 1.96\cdot \sigma /\sqrt{n}$ には、見落とせない前提がありました ─「母標準偏差 $\sigma$ が既知」という仮定です。実務でデータを扱うとき、母分散が事前にわかっていることはまずありません。本節では、この現実的な状況で母平均の信頼区間を作る手順 ─ t 分布の出番 ─ を学びます。

$\sigma$ を $\hat{s}$ で置き換えるとどうなるか

ここまでの式の $\sigma$ を不偏分散の平方根 $\hat{s}$ で置き換えれば、$\sigma$ が未知でも信頼区間が作れそうな気がします。実際、$n$ が十分大きければ $\hat{s}\approx \sigma$ で問題ありません。しかし $n$ が小さいときには、$\hat{s}$ 自身が標本ごとに揺れるため、ぴったり $1.96$ では信頼度 95% を保てなくなります。

そこで「$\sigma$ ではなく $\hat{s}$ で割った量がどんな分布に従うか」を考えると、それが t 分布 です。

t 分布

t 分布は標準正規分布と似た「左右対称の釣鐘型」ですが、裾(すそ)がやや厚いのが特徴。標本サイズが小さいほどその傾向が強く、$n\to \infty$ で標準正規分布 $N(0,1)$ に収束していきます。「$\sigma$ がわからないぶんの不確かさ」が分布の裾の厚みに表れている、と覚えるとよいでしょう。

母平均の 95% 信頼区間($\sigma$ 未知)

$z$ と $t$ の使い分け

• $\sigma$ 既知: $z$ を使う(標準正規分布)─ 教科書問題用、現実は稀。
• $\sigma$ 未知 + $n$ 小: $t$ を使う($n-1$ の自由度) ─ 主役。
• $\sigma$ 未知 + $n$ 大($n\ge 30$ 目安): $t$ でも $z$ でもほぼ同じ。実務では大標本なら $z$ で済ませることも多い。

試験問題では $\sigma$ 既知/未知をはっきり明示してくれます。「未知ですよ」と言われたら反射的に t 分布、と覚えれば迷いません。

「ある支持率は 35% プラスマイナス 3%」「製品の不良率は 2% 程度」 ─ 比率の推定は、世論調査・品質管理・マーケティング、いたるところで登場します。本節では母比率 $p$ の信頼区間の作り方を学びます。

標本比率と二項分布

$X$ は二項分布 $\mathrm{Bin}(n,p)$ に従うので、$E[X]=np$、$V[X]=np(1-p)$。これを $n$ で割った $\hat{p}$ について、

$\hat{p}$ は母比率 $p$ の不偏推定量、その標準誤差は $\sqrt{p(1-p)/n}$、と整理できます。

正規近似

「ベルヌーイ試行を $n$ 回繰り返した平均」も中心極限定理で正規分布に近づく ─ という具体例が、まさにこの正規近似です。$n$ が小さいときや $p$ が極端に $0$ や $1$ に近いときは近似が悪くなるので、目安として上の条件を満たすことを確認します。

母比率の 95% 信頼区間

標準誤差の式に未知の $p$ が入ってしまっているので、ここでは $p$ を $\hat{p}$ で代用しています。「$\hat{p}$ がそこそこ正確ならその近くで分散も近い値だろう」という近似です。

標本サイズはどれくらい必要?

ニュースでよく「世論調査 $n=1000$」「許容誤差 ±3%」と書いてあります。これは $1.96\sqrt{0.5\times 0.5/1000}=0.031$ という計算から来ていて、$\hat{p}=0.5$ あたりでも誤差約 3% に収まる、ということ。「許容誤差」を半分の 1.5% にしたければ $n$ は 4 倍の $4000$ 必要、という $\sqrt{n}$ の関係はここでも効いてきます。

「このコインは本当に公平か?」「新しい薬は従来薬より効くか?」「広告 A と B、どちらがクリック率が高い?」 ─ こういう問いに、データを使って客観的に答える枠組みが仮説検定です。2 級の中でいちばん配点が多い領域でもあります。本節ではまず考え方の骨格を押さえます。

帰無仮説と対立仮説

仮説検定の基本姿勢は「帰無仮説 $H_0$ が正しいと仮定したとき、いま得られたデータがどれくらい起こりにくいか」を計算する、という背理法的な発想です。「ありえないほど起こりにくい」なら $H_0$ を棄却して、$H_1$ を採用します。

検定の手順

1. 仮説を立てる: $H_0$ と $H_1$ を文脈に合わせて設定する。
2. 有意水準 $\alpha$ を決める: 慣例的に $\alpha =0.05$ または $0.01$。「$H_0$ が正しいのに棄却してしまう確率」の上限。
3. 検定統計量を計算する: $H_0$ のもとで分布が分かっている量(z, t, ${\chi }^2$, F など)。
4. 棄却域 or p 値で判定する: 統計量が極端な値ならば $H_0$ を棄却。極端さを定量化するのが p 値。

p 値

「p 値は『$H_0$ が正しい確率』ではない」 ─ ここが受験で必ず引っかけられるポイント。p 値は「$H_0$ を仮定した世界で、こんなデータが見える確率」です。$H_0$ そのものの真偽の確率ではないので、注意してください(ベイズ統計を学ぶとこの違いが鮮明になります)。

両側検定と片側検定

• 両側検定: $H_1:\mu \ne {\mu }_0$ ─ 「異なる」とだけ主張。棄却域は分布の左右両端。
• 右片側検定: $H_1:\mu >{\mu }_0$ ─ 「大きい」と主張。棄却域は右端のみ。
• 左片側検定: $H_1:\mu <{\mu }_0$ ─ 「小さい」と主張。棄却域は左端のみ。

「同じ有意水準 $\alpha =0.05$ なら、両側より片側のほうが棄却されやすい」(片側のほうが棄却域が広い)。事前に「どちら向きを示したいか」が決まっているなら片側、ないなら両側、が大原則です。データを見てから方向を決めるのは反則(p ハッキング)。

from scipy import stats

a = [85, 88, 90, 78, 92, 86, 89, 84, 91, 87]
b = [80, 82, 79, 85, 83, 81, 78, 84, 80, 82]

# 等分散を仮定しないウェルチの t 検定(推奨)
t, p = stats.ttest_ind(a, b, equal_var=False)
print(f"t = {t:.3f}, p = {p:.4f}")
# 有意水準 0.05 で有意なら p < 0.05

第 1 種の誤り・第 2 種の誤り・検出力

$\alpha$ と $\beta$ はトレードオフの関係にあります。$\alpha$ を厳しくする(例: $0.01$)と棄却しにくくなり、第 1 種の誤りは減るが第 2 種の誤りは増える。実務では「重大な見落としを避けたいときは $\beta$ を抑える」「慎重に判定したいときは $\alpha$ を厳しくする」と使い分けます。

$\alpha$、$\beta$、検出力、効果量、標本サイズの 5 者の関係は、2 級でも準1級でも問われる重要トピック。標本サイズを大きくすると、ほぼあらゆる方向で改善する(誤りが減る/検出力が上がる) ─ これが「サンプルが足りないなら、まず増やす」が推奨される理由です。

前節で学んだ仮説検定の枠組みを、最も基本的なケース ─「ある母集団の平均値が特定の値と違うか」 ─ に適用します。前章の信頼区間と密接に対応する話です。

母平均の z 検定($\sigma$ 既知)

両側検定の棄却基準は $|Z|>z_{\alpha /2}$。$\alpha =0.05$ なら $|Z|>1.96$、$\alpha =0.01$ なら $|Z|>2.576$。片側なら $z_{\alpha }$($1.645,2.326,\dots$)を使います。

母平均の t 検定($\sigma$ 未知)

棄却基準は $|T|>t_{\alpha /2}(n-1)$(両側)。$t$ 分布の臨界値は自由度ごとに変わるので、表を参照する必要があります。実用上は「$n$ が 30 以上なら $t$ も $z$ もほぼ同じ」と覚えておくと、概算で判定できます。

信頼区間と検定の表裏一体性

「両側検定で棄却できないこと」と「対応する信頼区間に ${\mu }_0$ が含まれること」は同値です。

• ${\mu }_0$ が 95% 信頼区間に含まれない ⇔ $\alpha =0.05$ の両側検定で 棄却される
• ${\mu }_0$ が 95% 信頼区間に含まれる ⇔ $\alpha =0.05$ の両側検定で 棄却されない

つまり信頼区間と検定は同じことを別の言葉で言っているだけ。試験では「信頼区間を計算して、${\mu }_0=$ 値が入っているか?」だけで両側検定の結論が出ることもしばしばあります。

母比率の検定(参考)

母比率 $p$ の検定もほぼ同じ流れで作れます。$H_0:p=p_0$ に対し、検定統計量は $Z=\frac{\hat{p}-p_0}{\sqrt{p_0(1-p_0)/n}}$ ($H_0$ のもとで $Z\sim N(0,1)$)。「$p_0$ を仮定するので、標準誤差にも $p_0$ を使う」のが信頼区間との違いです。次節ではより複雑な分布表データに挑む、カイ二乗検定に進みます。

ここまでの z 検定・t 検定は「平均に差があるか」を扱う手法でした。本節では「観測度数の分布が想定どおりか」「2 つのカテゴリ変数に関係があるか」を判定する、もう 1 つの定番ツール ─ カイ二乗検定を学びます。

カイ二乗統計量の基本形

「期待度数 $E_i$」とは「$H_0$ が正しいとしたらこのくらいになるはず」という値。観測 $O_i$ がそこから大きく外れるほど ${\chi }^2$ は大きくなり、$H_0$ を疑う根拠になります。

適合度検定

独立性検定 ─ 分割表

適用上の注意

• 期待度数の目安: 各セルで $E_{ij}\ge 5$ が成り立つことが望ましい。期待度数が小さすぎるとカイ二乗近似が悪くなる。
• 棄却の意味: 独立性検定で棄却 = 「関連がある」とは言えるが、「どんな関連か」「因果か」までは判定できない。
• $2\times 2$ 分割表でフィッシャーの正確検定: $n$ が小さいときは、こちらが推奨されることもある(2 級では参考程度に)。

「気温が 1℃ 上がると、アイスの売上はどれくらい増えるか?」「広告費を 10 万円増やすと、売上は何万円伸びるか?」 ─ こういった「説明変数 $x$ で目的変数 $y$ を予測・説明する」ためのもっとも基本的な手法が、本節で学ぶ単回帰分析です。

回帰モデル

$y$ をぜんぶ $\alpha +\beta x$ で説明し尽くせるとは普通考えません。残った「説明できないぶん」が誤差 $\epsilon$。回帰の目的は、データから $\alpha$ と $\beta$ をできるだけよく推定することです。

最小二乗法

「もっとも当てはまりがよい直線」をどう決めるか? 一般的な答えは「残差の 2 乗和を最小にする」直線。これを最小二乗法といいます。

import numpy as np
import statsmodels.api as sm

x = np.array([1, 2, 3, 4, 5, 6, 7, 8])
y = np.array([2.1, 3.9, 6.2, 8.0, 10.1, 11.8, 14.0, 15.9])

# 切片を含めるため定数列を追加
X = sm.add_constant(x)
model = sm.OLS(y, X).fit()
print(model.summary())   # 係数・p値・R² がまとめて表示

回帰直線は必ず点 $(\bar{x},\bar{y})$ を通る、というのが切片の式の意味するところ。傾き $\hat{\beta }$ の式は「共分散 ÷ $x$ の分散」 ─ 3 級で学んだ共分散・相関係数と同じ部品の組み合わせです。

決定係数 $R^2$

単回帰の場合は $R^2=r^2$(相関係数の 2 乗)が成り立ちます。「相関 0.8 ⇒ $R^2=0.64$、つまり $y$ の分散の 64% が $x$ で説明できる」と読みます。

回帰の前提条件

最小二乗法による回帰は、いくつかの前提のもとで「良い」性質を持ちます。

• 線形性: $y$ と $x$ の関係が直線で表せる。
• 独立性: 各 ${\epsilon }_i$ が独立。
• 等分散性: ${\epsilon }_i$ の分散が $x$ の値によらず一定。
• 正規性(検定や区間推定で必要): ${\epsilon }_i$ が正規分布に従う。

実データではこれらが完全に満たされることはまずありません。残差プロットを描いて「ランダムに散らばっているか」「特定の傾向はないか」を確認するのが、実務での回帰分析の基本作法です。

「$x$ と $y$ には本当に意味のある関係があるのか?」 ─ それは「回帰係数 $\beta$ が実は $0$ ではないか?」という疑問と同じです。本節では、$\hat{\beta }$ をもとに $\beta$ について検定や区間推定を行う方法を学びます。

$\hat{\beta}$ の標本分布

$\hat{\beta }$ は $\beta$ の不偏推定量。分散は $x$ の散らばり($\sum (x_i-\bar{x}{)}^2$)が大きいほど小さくなります。「$x$ をよく振って観測したほうが、$\beta$ を精度よく推定できる」というわけです。

回帰係数の検定

自由度が $n-2$ なのは、回帰で 2 つのパラメータ($\alpha ,\beta$)を推定したぶん「自由度が 2 つ食われる」から、と覚えます。$|T|>t_{\alpha /2}(n-2)$ なら $H_0$ を棄却し、「$\beta \ne 0$」 ─ つまり「$x$ は $y$ に統計的に有意な影響を持つ」と結論できます。

回帰係数の信頼区間

信頼区間と t 検定の表裏一体性は、回帰係数でも成り立ちます。「$0$ が信頼区間に含まれるかどうか」が「$\beta =0$ が両側検定で棄却されるかどうか」と一致します。

回帰結果の読み方(実務では)

Excel・R・Python などの統計ソフトで回帰分析を実行すると、典型的に次の表が出力されます。

重回帰への展望

本節では説明変数が 1 つの単回帰を扱いました。説明変数を複数にした重回帰モデル $y={\beta }_0+{\beta }_1{x}_1+\cdots +{\beta }_k{x}_k+\epsilon$ も、考え方の枠組みは同じ。各 ${\beta }_j$ について t 検定が行え、決定係数や F 検定で全体の有意性も判定できます。重回帰の本格的な扱いは準1級の主要トピックです。

これで 2 級教科書の主要範囲は終わりです。推定・検定・回帰 ─ この 3 本柱が 2 級の真髄であり、また実務統計学の中心でもあります。次の準1級では、ベイズや多変量・時系列など、より発展的な領域に進みます。