An analysis on the application of statistical regression methods for different data sets

Yıl 2012, Cilt: 2 Sayı: 2, 0 - , 01.07.2012

Serkan Öztürk

Öz

In this study, an assessment on the application of different regression methods is made by using the different data sets as a theoretical, practical and correct estimation tool for empirical relationships. Many practical problems encountered in quantitative oriented disciplines entail finding a best approximate solution to an over determined system of linear equations. For this purpose, a detailed comparison is made among four different regression norms. The estimation procedures are considered as (1) L2 or Least Squares Regression, (2) L1 or Least Sum of Absolute Deviations Regression, (3) Total Least Squares or Orthogonal Regression and, (4) Robust Regression. In order to assess the quality of the fit in a linear regression and in order to select the best empirical relationship for data sets, the correlation coefficients are calculated for all regression models as a quite simple and very practicable tool. For the detailed statistical analyses, three data sets compiled from different examples in the literature are used. The results show that the representation of empirical relationships will be made as more suitable and reliable by Least Sum of Absolute Deviations or Robust regressions for clustered samples whereas by Least Squares or Orthogonal regressions for scattered data.

Anahtar Kelimeler

L1, L2, Robust, Orthogonal regression, correlation coefficient

İstatistiksel Regresyon Yöntemlerinin Farklı Veri Gruplarına Uygulanması Üzerine Bir Analiz

Öz

Bu çalışmada, farklı veri grupları kullanarak deneysel ilişkiler için teorik, pratik ve doğru tahmin aracı olarak farklı regresyon yöntemlerinin uygulanması üzerine bir değerlendirme yapılmıştır. Sayısal merkezli disiplinlerde karşılaşılan birçok pratik problem, doğrusal denklem sistemlerinin hesabı için en uygun çözümün bulunmasını gerektirir. Bu amaçla, dört farklı regresyon normu arasında detaylı bir karşılaştırma yapılmıştır. Tahmin yöntemleri olarak (1) L2 Norm veya En Küçük Kareler Yöntemi, (2) L1 Norm veya En Küçük Toplamlı Mutlak Sapma, (3) Toplam En Küçük Kareler veya Ortogonal Regresyon ve (4) Robust Regresyon yöntemleri kullanılmıştır. Veri setleri için doğrusal bir regresyondaki uyumun kalitesini değerlendirmek ve en iyi deneysel ilişkiyi elde edebilmek için, oldukça kullanışlı ve pratik bir uygulama olarak tüm regresyon modelleri için ilişki katsayıları hesaplanmıştır. Detaylı istatistiksel analizler için, literatürde mevcut olan çalışmalardan derlenmiş üç farklı veri seti kullanılmıştır. Sonuçlar, kümelenmiş veri grupları için deneysel ilişkilerin temsilinin En Küçük Toplamlı Mutlak Sapma veya Robust Regresyon yöntemleri ile buna karşın dağınık veri grupları içinse En Küçük Kareler veya Ortogonal Regresyon yöntemleri ile daha uygun ve güvenilir olarak yapılabileceğini göstermektedir.

Anahtar Kelimeler

L1, L2, Robust, Ortogonal regresyon, İlişki katsayısı