Global Criteria Method for Solving Multivariate Multiple Regression Model Modelled as MINMAD Problem

Abstract

In the development of the theory underlying statistical methods, one is often faced with an optimizabon problem. The techniques for solving such problems can be classified as classical, numerical, variational methods and mathematical programming. Regression analysis, estimation, testing of statistical hypotheses, design and analysis experiments, data classification and grouping, time series analysis are most of the major statistical methods that have found many applications in various fields (Arthanari and Dodge 1981). The least squares method has dominated the statistical literature. This method is optimal and results in the estimators of the unknown parameters of the model if the errors are independent and follow a normal distribution with zero and variance ϭ2 These estimators are very far from the optimal in many nonnormal situations and when the evtreme values exist (Narula and Wellington, 1982). The fundamental paper by Charnes, Cooper and Ferguson (1955) introduced the application of mathematical programming to statistics. As an alternative to the least squares method to linear regression, MİNMAD (Minimizing Mean Absolute Deviations) problem is chose. In that paper, MİNMAD problem is formulated and solved as Linear Programming (Arthanari and Dodge 1981, Narula and Wellington, 1982). In this study, Multivariate Multiple Regression is considered as MİNMAD Problem and obtained Multi-objective MİNMAD Problem. Actually, this problem is Multi-objective Programming Problem and then solved by using the Global Criteria Method, that one of the Multi- objective Programming Problem Methods.

Keywords

• MİNMAD(Minimizing Mean Absolute Deviations) Problem
• Multi-objective Programming Problem
• Global Criteria Method

Çok Değişkenli Çoklu Regresyon Modelinin Minmad Problemi Olarak Modellenmesi ve Global Kriter Yöntemi ile Çözümü

Abstract

İstatistik teorisinin gelişim sürecinde optimizasyon problemleri ile oldukça sık karşılaşılmaktadır. Bu tür problemlerin çözümü için kullanılan teknikler: klasik yöntemler, sayısal yöntemler, değişimsel yöntemler ve matematiksel programlama olarak sınıflandırılmaktadır. Çeşitli alanlarda uygulaması olan istatistik yöntemlerinden bazıları: regresyon analizi, tahmin, istatistiksel hipotez testleri, deney düzenleme ve analizi veri sınıflandırma ve gruplandırma, zaman serisi analizidir (Arthanari ve Dodge 1981). Regresyon Analizi 'nde etkin olarak kullanılan En Küçük Kareler Yöntemi (EKK) modelin bilinmeyen parametrelerinin tahmin edicileri için, hatalar bağımsız olduğunda optimal sonuçlar vermektedir. Bu tahmin ediciler, sıfır ortalamalı ve ϭ2 varyanslı normal dağılıma uymaktadır. Özellikle normal dağılıma uymayan durumlarda ve uç değerler olduğunda bu yöntem optimallikten çok uzaklaşmaktadır (Cade ve Richards, 1996, Narula ve Wellington 1982). Charnes, Cooper ve Ferguson (1955)'un birlikte yaptıkları makalede, İstatistik matematiksel programlamanın bir uygulaması ele alınmış ve MİNMAD (Ortalama Mutlak Sapmaların En Küçüklenmesi) Problemi, doğrusal regresyon modelinin çözümü için EKK yöntemine bir alternatif olarak seçilmiştir. Bu makalede, MİNMAD problemi, Doğrusal Programlama (DP) modeli olarak formüle edilmiş ve çözülmüştür (Arthanari ve Dodge 1981, Narula 1987). Bu çalışmada, çok değişkenli çoklu regresyon modeli MİNMAD problemi olarak düşünülmüş ve Çok Amaçlı MİNMAD "Problemi elde edilmiştir. Elde edilen bu problem aslında birçok amaçlı programlama modelidir. Bu nedenle problemin çok amaçlı programlama yöntemlerinden biri olan Global Kriter yöntemi ile çözülmesi amaçlanmıştır.

Keywords

• MİNMAD Problemi
• Çok Amaçlı Programlama
• Global Kriter Yöntemi

References

1. APAYDIN, A., KUTSAL, A., ATAKAN, C.(1994), Uygulamalı İstatistik, Ankara: Kültür Kitap ve Yayınevi.
2. APAYDIN, A., YAPICI, N., (2001), Minmad Problemi Olarak Modellenen Çok Değişkenli Çoklu Regresyon Modelinin Çözümü İçin Çok Amaçlı Doğrusal Programlama Yaklaşımı, 2. İstatistik Kongresi, Bildiriler Kitabı, 66-69. 2-6 Mayıs, Antalya.
3. ARTHANARI T.S., DODGE, Y., (1981), Mathematical Programming in Statistics, John Wiley and Sons Inc.
4. CADE, B.S., RICHARDS, J.D. (1996), Permutation Tests for Least Absolute Deviation Regression, Biometrics, 52, 886-902.
5. EVREN, R., ÜLENGİN, F., (1992), Yönetimde Çok Amaçlı Karar Verme, İ.T.Ü., Matbaası.
6. HAWLEY, R.W., GALLAGHER, N.C. (1994), On Edgeworth's Method for Minimum Absolute Error Linear Regression, IEEE Transactions on Signal Processing, 42, 2045-2054.
7. JOHNSON, R.A, WICHERN, DW.(1988). Applied Multivariate Statistical Analysis, Prentice-Hall Inc.
8. NARULA, S.C., (1987), The Minimum Sum of Absolute Errors Regression, Journal of Quality Technology, 19,1,37-44.

9. NARULA, S.C, WELLINGTON, JF (1982). The Minimum Sum of Absolute Errors Regression: A State of The Art Survey, International Statistical Review, 50, 317-326.
10. OZDAMAR, K., (1999), İstatistiksel Programlar İle Veri Analizi-2. Kaan Kitabevi, Eskişehir.
11. RENCHER, A.C., (1995), Methods of Multivariate Analysis, John Wiley and Sons Inc.
12. ŞANLI, K., (1999), MİNMAD Yöntemiyle Rasgele Bloklar Model Denklemindeki Parametrelerin Tahmini, Yüksek Lisans Tezi (basılmamış), Ankara Üniversitesi Fen Bilimleri Enstitüsü, Ankara.
13. TATLIDİL, H., (1992), Uygulamalı Çok Değişkenli İstatistiksel Analiz, Ankara.