準1級 公式集

積率母関数。$t$ について何回でも微分でき、$M_X^{(k)}(0) = E[X^k]$ として各次のモーメントを取り出せる。

特性関数はつねに存在し、分布を一意に定める。独立な確率変数の和の分布は特性関数の積として扱える。

同時密度 $f_{X,Y}$ から、他方の変数で積分すると周辺密度が得られる。独立なら $f_{X,Y} = f_X f_Y$。

平均ベクトル $\boldsymbol{\mu}$、分散共分散行列 $\Sigma$ の $k$ 次元正規分布。任意の線形結合も正規分布になる。

事前分布 $P(\theta)$ と尤度 $P(D \mid \theta)$ から事後分布 $P(\theta \mid D)$ を得る。ベイズ推論の基礎。

二項尤度にベータ事前分布を組むと、事後もベータ分布。成功数 $k$ と失敗数 $n-k$ が事前パラメータに加算される。

事後分布を最大化する点推定。正則化付き最尤推定と対応する(事前分布=正則化項)。

尤度関数を最大化するパラメータ。一致性・漸近正規性・漸近有効性(クラメル・ラオの下限達成)をもつ。

スコア関数の分散。クラメル・ラオ下限 $\mathrm{Var}(\hat{\theta}) \geq 1/(n I(\theta))$ で不偏推定量の精度限界を与える。

分散共分散行列の固有ベクトル $v_k$ が主成分の軸、固有値 $\lambda_k$ がその主成分の分散。累積寄与率で次元削減を行う。

最小二乗推定量の行列表示。計画行列 $X$ が列独立ならこの形で解ける。残差の分散 $\sigma^2$ の推定は $\mathrm{RSS}/(n - p)$。

応答変数が二値のとき、ロジット $\log(p/(1-p))$ を線形回帰でモデル化。係数 $\beta_j$ はオッズ比の対数と解釈される。

$k$ 群の平均の差の検定。群間平均平方/群内平均平方が F 分布に従う。群間自由度 $k-1$、群内自由度 $N-k$。

移動平均過程。ホワイトノイズ $\varepsilon_t$ の有限個の線形結合。常に定常で、自己相関はラグ $q$ より先で $0$ になる。

自己回帰過程。特性方程式の根がすべて単位円の外にあれば定常。PACF がラグ $p$ で打ち切られる性質で次数を判定。

$d$ 回差分をとって定常化した後、AR(p)-MA(q) モデルで表現する。非定常時系列の基本モデル。

推移確率行列 $P$ の左固有ベクトル(固有値1)として定常分布 $\pi$ が得られる。既約かつ非周期なら一意に存在する。

確率分布 $P$ と $Q$ の違いを測る非対称な距離。$P = Q$ のとき $0$、それ以外で正。最尤推定とも深く関係する。

観測標本から復元抽出で擬似標本を $B$ 個作り、推定量の分布を近似する。信頼区間や標準誤差の推定に使う。