Verilerin Lineer İç İlişkili Olduğu Lojistik Regresyonda Bazı Yanlı Parametre Kestiricileri ve Hata Karaler Ortalamasına Göre Karşılaştırmaları

Year 2008, Volume: 1 Issue: 1, 1 - 8, 01.03.2008

N. N. Urgan M. Tez

Abstract

En çok olabilirlik kestirimi kullanılan lojistik regresyon yaygın kullanım alanlarına sahiptir. Lojistik regresyon genellikle, medikal alanlarda yaşam olasılığı modelleme ve hastalık ve travmadaki risk faktörlerinin değerlendirme gibi alanlarda kullanılır. Lojistik regresyonda bağımsız değişkenler arasındaki lineer iç ilişki en çok olabilirlik kestiricisinin (MLE) varyansını büyük oranda etkiler. Bu çalışmada MLE’ ne alternatif olarak başka kestiriciler önerildi. Belirli koşullar altında Ridge (Smidt&McDonald,1976) kestiricisi, Stein (Stein,1960) kestiricisinin toplam hata kareler ortalamalarının dolayısıyla varyanslarının en çok olabilirlik kestiricisininkinden (MLE) daha küçük olduğu biliniyor. Buna benzer olarak, Ridge ve Stein kestiricilerinin konveks bileşimi olan Liu (Liu,1993) kestiricisinin lojistik regresyondaki toplam hata kareler ortalamasının da MLE kestiricisininkinden daha küçük olabileceği üzerinde çalışılmaktadır

Keywords

Lojistik regresyon, En çok olabilirlik kestiricisi(MLE), Yinelemeli ağırlıklandırılmış en küçük kareler(IWLS), Ridge kestirimi, Stein kestirimi, Liu kestirimi, lineer iç ilişki

Some biased estimators and their comparisons using mean squared error criterion in logistic regression when data are collinear

Abstract

Logistic regression using maximum likelihood
estimation has recently gained widespread use. Many of these applications have
been in situations in which the independent variables are collinear. The collinearity
among the independent variables seriously effects the variance of the maximum
likelihood estimation. In this study, several alterative estimators are
suggested, which are combat the collinearity and easy to obtain in practice. It
has been known that under some situations of the Ridge estimator and Stein
estimator are less affected by the variance of the MLE. Similarly, we are
studying on Liu estimator which is the convex combining of them in logistic
regression.

Keywords

Logistic regression, Maximum Likelihood Estimation (MLE), Iterative weighted least squares (IWLS), Ridge regression, Stein regression, Liu regression, collinearity.

References

• Gunst, R.F., Mason, R.L. (1977b). Biased estimation in Regression: An evaluation Using Mean Square Error. JASA, 72, pp. 616-627.
• Hoerl, A.E., Kennard, R.W. (1970a). Ridge Regression: Biased estimation for Nonorthogonal problems. Technometrics, 12, pp. 55-67.
• Hoerl, A.E., Kennard, R.W. (1970b). Ridge Regression: Applications Nonorthogonal problems. Technometrics, 12, pp. 69-82.
• Hoerl, A.E., Kennard, R.W. and Baldwin, K.F. (1975). Ridge Regression: Some Simulations. Communications in Statistics, 4(2), pp. 1105-1123.
• Kejian, L. (1993). A new class of biased estimate in linear regression. Commun. Statistics: Theory and Methods, 22(2), pp. 393-402.
• Myers, R.H., Montgomery, D.C., Vining, G.G. (2001). Generalized Linear Models: with applications in engineering and sciences. Wiley & Sons, Inc., New York.
• Schaeffer, R.L., Roi, L.D. and Wolfe, R.A. (1984). A Ridge logistic estimator. Communications in Statistics: Theory and Methods, Vol.13, No.1, pp. 99-113.
• Schaeffer, R.L. (1986). Alternative estimators in logistic regression when the data are collinear. J. Statist. Comput. Simul., Vol. 25, pp. 75-91.
• Urgan, N.N. (2007). Lojistik Regresyonda Bazı Yanlı Kestiricilerin İncelenmesi. Doktora tezi. Dicle Üniversitesi, Fen Bilimleri Enstitüsü.