応用統計学

アブストラクト


多変量一般化リッジ回帰におけるリッジパラメータ最適化のためのバイアス補正Cp 規準, 151-172

柳原宏和,永井勇,佐藤健一

要旨

リッジ回帰におけるリッジパラメータの最適解は,Mallows(1973,1995)のCp規準に代表される情報量規準の最小化により求められることが多い.しかしながら, 情報量規準を最小にする解は陽な形で求めることができず,実際の最適化には計算機による繰り返し計算を必要とする.一方,リッジパラメータを説明変数の個数まで追加した一般化リッジ回帰 (Hoerl and Kennard(1970))では,Cp規準を最小にするリッジパラメータを陽な形で求めることできる.本論文では,この一般化リッジ回帰を多変量に拡張し,あてはめ値の基準化された予測平均二乗誤差に基づくリスク関数の不偏推定量となるようにCp規準のバイアスを補正した Modified Cp (MCp) 規準を提案する.新しい規準量はCp規準のバイアスを完全に除去しているだけではなく,分散も小さくしており,リスク関数の一様最小分散不偏推定量となっている.数値実験により,Cp規準でリッジパラメータを最適化するよりも,新しいMCp規準で最適化した方が多くの場合で予測平均二乗誤差を改善できることがわかった.

英文要旨

A Bias-Corrected Cp Criterion for Optimizing Ridge Parameters in Multivariate Generalized Ridge Regression, 151-172

Hirokazu Yanagihara,Isamu Nagai and Kenichi Satoh

In a ridge regression for an univariate linear regression model, it is common that an optimal ridge parameter is determined by minimizing an information criterion, e.g., Mallows' Cp criterion (Mallows (1973, 1995)). Since the solution to the minimization problem of the information criterion is not expressed by a closed form, an additional computational task is required. On the other hand, a generalized ridge regression proposed by Hoerl and Kennard (1970) has multiple ridge parameters, but optimal ridge parameters are obtained by closed forms. In this paper, we extend the generalized ridge regression to a multivariate linear regression case. Then, Cp criterion for optimizing ridge parameters in the multivariate generalized ridge regression is considered as an estimator of a risk function based on the mean square error of prediction. By correcting a bias of the Cp criterion completely, an bias-corrected Cp criterion named by modified Cp (MCp) criterion is proposed. It is analytically proved that the proposed MCp has not only smaller bias but also smaller variance than an existing Cp criterion and is the uniformly minimum variance unbiased estimator of the risk function. We show that the criterion has useful properties by means of numerical experiments.


「2009年第38巻 No.3」目次へ

「応用統計学」総目次へ

「応用統計学」トップへ

「応用統計学会トップ」へ