最大事後確率

統計学
ベイズ統計学
理論
許容決定規則 ベイズ効率性 ベイズ確率 確率の解釈 ベイズの定理 ベイズ因子 ベイズ推定 ベイジアンネットワーク 事前確率 事後確率 尤度 共役事前分布 事後予測分布 ハイパーパラメータ ハイパーパラメータの事前分布 等確率の原理 最大エントロピー原理 経験ベイズ法 クロムウェルの差止め規則 ベルンシュテイン＝フォン・ミーゼス定理 シュワルツ情報量規準 信用区間 最大事後確率推定 根源的蓋然論
技法
ベイズ線形回帰 ベイズ推定量 近似ベイズ計算 マルコフ連鎖モンテカルロ法
表 話 編 歴

最大事後確率（さいだいじごかくりつ、英: maximum a posteriori, MAP）推定は、統計学において、実測データに基づいて未知の量の点推定を行う手法である。ロナルド・フィッシャーの最尤推定 (MLE) に密接に関連するが、推定したい量の事前分布を利用して最適化問題を解き確率が最大の結果を得る。したがってMAP推定は、最尤推定に正則化をつけた物と見ることもできる。

概要

${\displaystyle x}$ の観測に基づいて、未知の母集団パラメータ ${\displaystyle \theta }$ を推定したいとする。${\displaystyle x}$ の標本分布を ${\displaystyle f}$ とすると、母集団パラメータを ${\displaystyle \theta }$ としたときの ${\displaystyle x}$ の確率は ${\displaystyle f(x|\theta )}$ となる。すると

${\displaystyle \theta \mapsto f(x|\theta )\!}$

という関数は尤度関数であり、

${\displaystyle {\hat {\theta }}_{\mathrm {ML} }(x)=\mathop {\mathrm {arg~max} } _{\theta }f(x|\theta )\!}$

は ${\displaystyle \theta }$ の最尤推定である。

ここで、${\displaystyle \theta }$ の事前分布を ${\displaystyle g}$ とする。すると、${\displaystyle \theta }$ をベイズ推定における確率変数として扱える。${\displaystyle \theta }$ の事後確率は次のようになる。

${\displaystyle \theta \mapsto {\frac {f(x|\theta )\,g(\theta )}{\displaystyle \int _{\Theta }f(x|\theta ')\,g(\theta ')\,d\theta '}}\!}$

ここで ${\displaystyle g}$ は ${\displaystyle \theta }$ の密度関数、${\displaystyle \Theta }$ は ${\displaystyle g}$ の定義域である。これはベイズの定理の直接的な応用である。

最大事後確率推定の手法では、次に ${\displaystyle \theta }$ をこの確率変数の事後分布の最頻値として推定する。

${\displaystyle {\hat {\theta }}_{\mathrm {MAP} }(x)=\mathop {\mathrm {arg~max} } _{\theta }{\frac {f(x|\theta )\,g(\theta )}{\displaystyle \int _{\Theta }f(x|\theta ')\,g(\theta ')\,d\theta '}}=\mathop {\mathrm {arg~max} } _{\theta }f(x|\theta )\,g(\theta )\!}$

事後分布の分母は ${\displaystyle \theta }$ に依存していないので、最適化には何の役割も果たさない。${\displaystyle \theta }$ のMAP推定で事前分布 ${\displaystyle g}$ が一様分布の場合の結果は、最尤推定に一致する。MAP推定は、一様損失関数におけるベイズ推定関数である。

MAP推定の計算は解析的に解くか数値的に計算できる。

• 閉形式で事前分布の最頻値が与えられるとき、解析的に解ける。この場合、共役事前分布を使う。
• 数値的最適解を得るには
  • 汎用の最適化問題のアルゴリズムを使用する。例えば、勾配法（共役勾配法や準ニュートン法など）がある。勾配法の場合は導関数が必要で、それを解析的または数値的に計算する必要がある。
  • EMアルゴリズムを変形して用いる。この場合、事後分布の導関数は不要である。
  • マルコフ連鎖モンテカルロ法などのサンプリング法を使う。

正規分布での例

ある並び ${\displaystyle (x_{1},\dots ,x_{n})}$ の独立な確率変数 ${\displaystyle N(\mu ,\sigma _{v}^{2})}$ があり、${\displaystyle \mu }$ の事前分布は ${\displaystyle N(0,\sigma _{m}^{2})}$ で与えられるとする。ここで ${\displaystyle \mu }$ のMAP推定値を求める。

最大化すべき関数は次のようになる。

${\displaystyle \pi (\mu )L(\mu )={\frac {1}{{\sqrt {2\pi }}\sigma _{m}}}\exp \left(-{\frac {1}{2}}\left({\frac {\mu }{\sigma _{m}}}\right)^{2}\right)\prod _{j=1}^{n}{\frac {1}{{\sqrt {2\pi }}\sigma _{v}}}\exp \left(-{\frac {1}{2}}\left({\frac {x_{j}-\mu }{\sigma _{v}}}\right)^{2}\right)}$

これの対数を取る。

${\displaystyle {\begin{aligned}\log \pi (\mu )L(\mu )&=-\log {\sqrt {2\pi }}\sigma _{m}-{\frac {1}{2}}\left({\frac {\mu }{\sigma _{m}}}\right)^{2}-\log {\sqrt {2\pi }}\sigma _{v}-{\frac {1}{2}}\sum _{j=1}^{n}\left({\frac {x_{j}-\mu }{\sigma _{v}}}\right)^{2}\\&=-{\frac {1}{2}}\left\{\left({\frac {\mu }{\sigma _{m}}}\right)^{2}+\sum _{j=1}^{n}\left({\frac {x_{j}-\mu }{\sigma _{v}}}\right)^{2}\right\}-\log 2\pi \sigma _{m}\sigma _{v}\end{aligned}}}$

これは、${\displaystyle \mu }$ を動かし次の式を最小化することと等価である。

${\displaystyle \sum _{j=1}^{n}\left({\frac {x_{j}-\mu }{\sigma _{v}}}\right)^{2}+\left({\frac {\mu }{\sigma _{m}}}\right)^{2}}$

従って ${\displaystyle \mu }$ のMAP推定値は以下のようになる。

${\displaystyle {\hat {\mu }}_{\text{MAP}}={\frac {\sigma _{m}^{2}}{n\sigma _{m}^{2}+\sigma _{v}^{2}}}\sum _{j=1}^{n}x_{j}}$

${\displaystyle \sigma _{m}\to \infty }$ の場合を無情報事前分布（英: non-informative prior）と呼び、この例では ${\displaystyle {\hat {\mu }}_{\text{MAP}}\to {\hat {\mu }}_{\text{MLE}}={\frac {1}{n}}\sum _{j=1}^{n}x_{j}}$ である。

${\displaystyle \sigma _{m}<\infty }$ の場合は、${\displaystyle \mu }$ の事前分布の付与はL2正則化と同じ式になる。

参考文献

• M. DeGroot, Optimal Statistical Decisions, McGraw-Hill, (1970).
• Harold W. Sorenson, (1980) "Parameter Estimation: Principles and Problems", Marcel Dekker.

関連項目

• 最尤推定

脚注

表 話 編 歴 統計学
標本調査	標本 母集団 無作為抽出 層化抽出法
要約統計量	連続確率分布 位置 平均 算術 幾何 調和 中央値 分位数 順序統計量 最頻値 階級値 分散 範囲 偏差 偏差値 標準偏差 標準誤差 変動係数 決定係数 相関係数 自己相関 共分散 自己共分散 分散共分散行列 百分率 統計的ばらつき モーメント 分散 歪度 尖度 カテゴリデータ 頻度 分割表
推計統計学	仮説検定 パラメトリック t検定 ウェルチのt検定 F検定 Z検定 二項検定 ジャック-ベラ検定 シャピロ–ウィルク検定 分散分析 共分散分析 ノンパラメトリック ウィルコクソンの符号順位検定 マン・ホイットニーのU検定 カイ二乗検定 イェイツのカイ二乗検定 累積カイ二乗検定 フィッシャーの正確確率検定 尤度比検定 G検定 アンダーソン–ダーリング検定 コルモゴロフ–スミルノフ検定 カイパー検定 マンテル検定 コクラン・マンテル・ヘンツェルの統計量 その他 帰無仮説 対立仮説 有意 棄却 区間推定 信頼区間 予測区間 モデル選択基準 AIC BIC WAIC MDL その他 偏り 偏りと分散 過剰適合 推定量 点推定 最尤推定 尤度関数 尤度方程式 最小距離推定 メタアナリシス ブートストラップ法
ベイズ統計学	確率 主観確率 ベイズ確率 事前確率 事後確率 最大事後確率 その他 ベイズ推定 ベイズ因子
相関	交絡 ピアソンの積率相関係数 順位相関（スピアマンの順位相関係数 ・ケンドールの順位相関係数 ）
モデル	一般線形モデル 一般化線形モデル 混合モデル 一般化線形混合モデル
回帰	線形 リッジ回帰 ラッソ回帰 エラスティックネット 非線形 k近傍法 決定木 ランダムフォレスト ニューラルネットワーク サポートベクターマシン 射影追跡回帰 時系列 自己回帰モデル 自己回帰移動平均モデル ARCHモデル 対移動平均比率法 トレンド定常 傾向推定 共和分 構造変化
分類	線形 線形判別分析 ロジスティック回帰 <! -- 名前に回帰とついていますが確率を回帰する分類手法です --> 単純ベイズ分類器 単純パーセプトロン 線形サポートベクターマシン 二次 二次判別分析 非線形 k近傍法 決定木 ランダムフォレスト ニューラルネットワーク サポートベクターマシン ベイジアンネットワーク 隠れマルコフモデル その他 二項分類 多クラス分類 第一種過誤と第二種過誤
教師なし学習	クラスタリング k平均法 （k-means++法 ） DBSCAN 密度推定（英語版） カーネル密度推定 （ カーネル ） その他 主成分分析 独立成分分析 自己組織化写像
統計図表	棒グラフ バイプロット（英語版） 箱ひげ図 管理図 フォレストプロット ヒストグラム 円グラフ Q-Qプロット ランチャート 散布図 幹葉表示 バイオリン図 ドットプロット ヒートマップ 階級区分図
生存分析	生存関数 カプラン＝マイヤー推定量 ログランク検定 故障率 比例ハザードモデル
歴史	統計学の創始者 確率論と統計学の歩み
応用	社会統計学 疫学 生物統計学 系統学 統計力学 計量経済学 機械学習 実験計画法
出版物	統計学に関する学術誌一覧 重要な出版物
全般	統計 頻度主義統計学 統計学および機械学習の評価指標
その他	方向統計学 S言語 R言語 統計検定 社会調査士 JDLA Deep Learning For GENERAL JDLA Deep Learning for ENGINEER 実用数学技能検定 品質管理検定
カテゴリ