1級 公式集

自然パラメータ $\eta_j$、十分統計量 $T_j$、キュムラント関数 $A(\theta)$ による標準形。MLE、共役事前分布、GLM の基礎構造。

統計量 $T$ が $\theta$ の十分統計量である必要十分条件は、尤度がこの形に分解されること。

不偏推定量を十分統計量で条件付けた推定量は、元の推定量以下の分散を持つ。最良の推定量を作る手続き。

完備かつ十分な統計量に基づく不偏推定量は、一様最小分散不偏推定量(UMVUE)になる。

正則条件下で不偏推定量の分散の下限。MLE は漸近的にこの下限を達成する(漸近有効性)。

連続微分可能な変換 $g$ による推定量の漸近分布を求める基本道具。$g'(\theta) \neq 0$ が前提。

分布収束と確率収束を組み合わせる基本定理。標準化統計量の漸近分布を扱う際の基礎。

ウィルクスの定理。帰無仮説下で $-2 \log \Lambda$ は自由度 $r$(制約次元)のカイ二乗に漸近する。

MLE の漸近正規性に基づく検定。尤度比検定・スコア検定と漸近的に等価。

帰無仮説下のスコア $U = \partial \log L / \partial \theta$ の漸近分布に基づく検定。MLE の計算が不要。

単純仮説 $H_0 : \theta = \theta_0$ vs $H_1 : \theta = \theta_1$ の検定では、尤度比検定が与えられた有意水準で最強力。

独立増分、正規分布、連続軌道、$B_0 = 0$ を満たす連続時間確率過程。確率解析と金融数学の基盤。

確率微分方程式における連鎖律。決定論的な連鎖律に $\tfrac{1}{2} f'' \sigma^2\, dt$ 項が加わるのが特徴。

E ステップで完全データ対数尤度の条件付き期待値を計算し、M ステップで最大化する反復法。尤度を単調増加させる。

目標分布 $\pi$ からサンプリングする MCMC の受理確率。詳細釣合条件を満たし、$\pi$ に収束する連鎖を構成する。

凸関数について、期待値と関数の順序。KL ダイバージェンスの非負性や EM アルゴリズムの収束性証明で本質的な役割。