ベイズ因子

統計学
ベイズ統計学
理論
許容決定規則 ベイズ効率性 ベイズ確率 確率の解釈 ベイズの定理 ベイズ因子 ベイズ推定 ベイジアンネットワーク 事前確率 事後確率 尤度 共役事前分布 事後予測分布 ハイパーパラメータ ハイパーパラメータの事前分布 等確率の原理 最大エントロピー原理 経験ベイズ法 クロムウェルの差止め規則 ベルンシュテイン＝フォン・ミーゼス定理 シュワルツ情報量規準 信用区間 最大事後確率推定 根源的蓋然論
技法
ベイズ線形回帰 ベイズ推定量 近似ベイズ計算 マルコフ連鎖モンテカルロ法
表 話 編 歴

ベイズ因子（ベイズいんし、英: Bayes factor）は、ベイズ統計学において、伝統的統計学の仮説検定に代わる方法として用いられる数値である。

データベクトルx に基づいて2つの数学的モデル M₁ と M₂ のどちらかを選択する問題を考える。ここで、ベイズ因子 K は

${\displaystyle K={\frac {p(x|M_{1})}{p(x|M_{2})}}}$

で与えられる。この方法は尤度比検定あるいは最尤法に似ているが、尤度（モデルあるいは母数を定数とし、それを条件とする確率変数x の条件付き確率のこと）を最大化するのでなく、母数を確率変数とし、それに対して平均値をとってから最大化するところが違う。一般にモデルは母数ベクトル（複数の母数をベクトルとして扱う）によって規定される。これらをM₁ に対して θ₁ 、 M₂ に対して θ₂ としよう。K は

${\displaystyle K={\frac {p(x|M_{1})}{p(x|M_{2})}}={\frac {\int \,p(\theta _{1}|M_{1})p(x|\theta _{1},M_{1})\,d\theta _{1}}{\int \,p(\theta _{2}|M_{2})p(x|\theta _{2},M_{2})\,d\theta _{2}}}}$

で与えられる。このK の対数をとり、「データ x によって与えられる M₂ を基準としたM₁ の証拠の重み（weight of evidence）」と呼ぶこともある。単位はビット（2を底にした場合）など。

K > 1 は、M₁ の方が M₂ よりも確からしいということをデータが示しているということであり、K < 1となればちょうどその逆となる。それに対し、古典的な仮説検定は一方の仮説（またはモデル）に反する証拠しか考慮対象にしていない（つまり両仮説は不可逆である）という点が、大きく異なる。

例

成功か失敗かどちらかの結果になる確率変数を考えよう。成功確率 q = ½ とするモデル M₁ と、q が全く不明で q の事前確率として[0,1]区間の一様分布をとるモデル M₂ とを考えることにする。200標本を抽出し、そのうち成功が115、失敗が85だとする。尤度は：

${\displaystyle {{200 \choose 115}q^{115}(1-q)^{85}}}$

したがってモデル M₁ で上の結果が出る確率は

${\displaystyle P(X=115|M_{1})={200 \choose 115}\left({1 \over 2}\right)^{200}=0.00595...\,}$

となるが、モデル M₂ でのそれは

${\displaystyle P(X=115|M_{2})=\int _{0}^{1}{200 \choose 115}q^{115}(1-q)^{85}dq={1 \over 201}=0.00497...\,}$

ゆえに比は1.197...、つまりごくわずかに M₁を支持するものの、「ほとんど意味がない」程度である。

一方、古典的な尤度比検定を考えてみよう。q の最尤推定量 ¹¹⁵⁄₂₀₀ = 0.575 が得られる。これに基づくモデルを M₂ として、0.1045...という比が得られ、ゆえに M₂ が支持されることになる。M₁ を帰無仮説として片側検定を行うと、q = ½ ならば200標本から115またはそれ以上の成功を得る確率は0.0200... であり、両側検定でも成功115回またはそれ以上極端な結果を得る確率は0.0400... だから、「 M₁ は信頼水準5%で棄却される」（115は100から2標準偏差以上離れている）というさらに顕著な結果が得られる。

M₂ は自由な母数を持つので、M₁ よりも複雑で厳密なモデルであるといえる。ここにベイズ因子の価値がある。

再現性

2017年6月に72人の著名な研究者が、新たな発見をしたと主張する際の証拠の統計的基準の低さが再現性の危機の一因になっているとする論文を発表した。新発見の統計的有意性を評価するために、科学者が好んで用いるP値の閾値は0.05から0.005に引き下げるべきであると、統計学の大家たちは主張する。その一方、イリノイ工科大学の計算機科学者Shlomo Argamonは「実験する方法が多数ある限り、どんなに小さいP値の閾値を用いてもその中に一つの実験方法が偶然に有意になる可能性が極めて高い」と新しい方法論的な基準を求める。実際小さいP値の閾値を用いたらお蔵入り問題がより著しくなり、多数の論文が出版できなくなる。その結果、多くの学者たちはP値の使用を停止し、代わりにベイズ因子を多用するようになった^[1]。

脚注

表 話 編 歴 統計学
標本調査	標本 母集団 無作為抽出 層化抽出法
要約統計量	連続確率分布 位置 平均 算術 幾何 調和 中央値 分位数 順序統計量 最頻値 階級値 分散 範囲 偏差 偏差値 標準偏差 標準誤差 変動係数 決定係数 相関係数 自己相関 共分散 自己共分散 分散共分散行列 百分率 統計的ばらつき モーメント 分散 歪度 尖度 カテゴリデータ 頻度 分割表
推計統計学	仮説検定 パラメトリック t検定 ウェルチのt検定 F検定 Z検定 二項検定 ジャック-ベラ検定 シャピロ–ウィルク検定 分散分析 共分散分析 ノンパラメトリック ウィルコクソンの符号順位検定 マン・ホイットニーのU検定 カイ二乗検定 イェイツのカイ二乗検定 累積カイ二乗検定 フィッシャーの正確確率検定 尤度比検定 G検定 アンダーソン–ダーリング検定 コルモゴロフ–スミルノフ検定 カイパー検定 マンテル検定 コクラン・マンテル・ヘンツェルの統計量 その他 帰無仮説 対立仮説 有意 棄却 区間推定 信頼区間 予測区間 モデル選択基準 AIC BIC WAIC MDL その他 偏り 偏りと分散 過剰適合 推定量 点推定 最尤推定 尤度関数 尤度方程式 最小距離推定 メタアナリシス ブートストラップ法
ベイズ統計学	確率 主観確率 ベイズ確率 事前確率 事後確率 最大事後確率 その他 ベイズ推定 ベイズ因子
相関	交絡 ピアソンの積率相関係数 順位相関（スピアマンの順位相関係数 ・ケンドールの順位相関係数 ）
モデル	一般線形モデル 一般化線形モデル 混合モデル 一般化線形混合モデル
回帰	線形 リッジ回帰 ラッソ回帰 エラスティックネット 非線形 k近傍法 決定木 ランダムフォレスト ニューラルネットワーク サポートベクターマシン 射影追跡回帰 時系列 自己回帰モデル 自己回帰移動平均モデル ARCHモデル 対移動平均比率法 トレンド定常 傾向推定 共和分 構造変化
分類	線形 線形判別分析 ロジスティック回帰 <! -- 名前に回帰とついていますが確率を回帰する分類手法です --> 単純ベイズ分類器 単純パーセプトロン 線形サポートベクターマシン 二次 二次判別分析 非線形 k近傍法 決定木 ランダムフォレスト ニューラルネットワーク サポートベクターマシン ベイジアンネットワーク 隠れマルコフモデル その他 二項分類 多クラス分類 第一種過誤と第二種過誤
教師なし学習	クラスタリング k平均法 （k-means++法 ） DBSCAN 密度推定（英語版） カーネル密度推定 （ カーネル ） その他 主成分分析 独立成分分析 自己組織化写像
統計図表	棒グラフ バイプロット（英語版） 箱ひげ図 管理図 フォレストプロット ヒストグラム 円グラフ Q-Qプロット ランチャート 散布図 幹葉表示 バイオリン図 ドットプロット ヒートマップ 階級区分図
生存分析	生存関数 カプラン＝マイヤー推定量 ログランク検定 故障率 比例ハザードモデル
歴史	統計学の創始者 確率論と統計学の歩み
応用	社会統計学 疫学 生物統計学 系統学 統計力学 計量経済学 機械学習 実験計画法
出版物	統計学に関する学術誌一覧 重要な出版物
全般	統計 頻度主義統計学 統計学および機械学習の評価指標
その他	方向統計学 S言語 R言語 統計検定 社会調査士 JDLA Deep Learning For GENERAL JDLA Deep Learning for ENGINEER 実用数学技能検定 品質管理検定
カテゴリ