模型选择:AIC和BIC准则(选小原则)b
00 分钟
2024-7-28
过拟合问题:加入的参数个数越多,模型拟合的效果越好,但这却是以提高模型复杂度为代价的。因此,模型选择要在模型复杂度与模型对数据的解释能力之间寻求最佳平衡。
赤池信息准则(Akaike Information Criterion,AIC)
日本统计学家赤池弘次在1974年提出
贝叶斯信息准则(Bayesian Information Criterion,BIC)
由Schwartz在1978年根据贝叶斯理论提出
样本个数用T表示
模型中参数的个数n:反映模型的复杂程度;
模型的极大似然函数值:反映模型对于数据解释(拟合)程度。
AIC和BIC是选小原则,我们要选择使得AIC或BIC最小的模型。
(BIC对于模型的复杂程度的惩罚系数更大,因此BIC往往比AIC选择的模型更简洁)
上一篇
海明校验的公式推导及讨论
下一篇
数学建模のwiki

评论
Loading...