Conceptual Distinctions of Bayesian and Classical Approaches in Statistics

Year 2009, Volume: 12 Issue: 21, 89 - 101, 01.06.2009

Oya Ekici

Abstract

Fundamentals of the Research: When the progressing process is taken to be account, it’s seen that the approaches on statistics have polarized between two pivots. Despite of the domination of Classical approach in statistics, Bayesian approach has also crucial arguments. It’s needed to clarify the descriptions of both aspects about statistical concepts by compiling them. Besides, using “prior information”, that is main difference from Classical one, created the discussion of objective and subjective Bayesian analysis. Thus, compilation of concepts and launching a current discussion are the main motivations that lead to this study. Purpose of the Research: The purpose of the study is to express the distinctions between Bayesian approach and Classical approach on the basis of statistical concepts. Data Sources: No data is used at the study due to not to be intended to do an application. Main Discussion: In the context of this stated purpose, at first, the dissimilarities that become clear in the description of uncertainty and probability are tried to be described. Again by regarding the distinctions of the approaches, Parameter, Point Estimation, Confidence Interval and Hypothesis Testing that are the main subjects of statistical inference are touched on. Since using the prior information, Bayesian approach produces different results from Classical one, so it has been criticized, claiming as to be subjective. Actually Bayesian approach also has been discussing the objectivity and subjectivity since it’s seen variety on the application Bayesian method. In the study, merely as an introduction, this discussion relating the Bayesian schools is considered. Results: From both aspects, the distinctions of the concepts that have key role in statistical inference are emphasized. It’s enlightened the discussion of objective - subjective Bayesian Analysis by means of introducing the current views in the literature

Keywords

Bayesian Inference, Classical Statistical Inference, Precision, HPD Interval

İSTATİSTİKTE BAYESYEN VE KLASİK YAKLAŞIMIN KAVRAMSAL FARKLILIKLARI

Abstract

Araştırmanın Temelleri: Gelişme süreci göz önünde bulundurulduğunda, istatistik üzerine yaklaşımlar iki eksende kutuplaşmıştır. Bu alanda Klasik yaklaşımın daha fazla hâkim olmasına rağmen Bayesyen yaklaşımın da önemli argümanları vardır. Yaklaşım farklılıklarını belirginleştirmek üzere, istatistiksel kavramların iki yaklaşımdaki tanımlarını derleyerek netleştirme ihtiyacı ortaya çıkmıştır. Ayrıca Klasikten asıl farklı olan “ön bilgi” kullanılması konusu Bayesyen yaklaşım içerisinde de objektif ve subjektif analiz tartışmasını doğurmuştur. Kavramlara ilişkin derleme ve güncel bir tartışmaya başlangıç yapma, çalışmaya temel oluşturan motivasyon olmuştur. Araştırmanın Amacı: Çalışmada amaç, istatistiksel kavramlar çerçevesinde Bayesyen yaklaşımın Klasik yaklaşımdan farklılıklarına yer vermek ve giriş niteliğinde objektif ve subjektif Bayesyen analiz tartışmasına değinmektir. Veri Kaynakları: Uygulamaya yönelik çalışma yapılmadığından veri kullanılmamıştır. Ana Tartışma: Sözü edilen amaç bağlamında, öncelikle belirsizliğin değerlendirilmesinde ve olasılığın tanımında belirginleşen ayrılıklar açıklanmaya çalışılmıştır. Yine yaklaşım farklılıklarını göz önüne alarak, istatistiksel çıkarsamanın ana başlıklarından olan, Parametre, Nokta tahmin, Güven Aralığı ve Hipotez Testi konularına değinilmiştir. Ön bilginin kullanılmasıyla Klasik yaklaşımdan farklı sonuca ulaşan Bayesyen yaklaşım, subjektif olması gerekçesiyle eleştirilmektedir. Aslında Bayesyen yaklaşım da kendi içinde, yöntem çeşitliliği ortaya çıkması nedeniyle, objektif ve subjektif tartışmasını yapmaktadır. Bu da araştırmacıyı objektif ve subjektif Bayesyen analiz ayrımına götürmektedir. Çalışmada, sadece giriş niteliğinde, Bayesyen okullar arasındaki bu tartışmaya da yer verilmiştir. Sonuçlar: İki yaklaşım açısından da istatistiksel çıkarsamada temel olan kavramların farklılığı ortaya konmuştur. Objektif - subjektif Bayesyen analiz tartışmasına literatürdeki son görüşlere de yer verilerek ışık tutulmuştur

Keywords

Bayesyen Çıkarsama, Klasik İstatistiksel Çıkarsama, Kesinlik, Tutarlılık

References

• Alder, M.D. (December 2003). Workshop on intelligent system. (01.03.2004).
• Berger, J. (March 1986). Discussion: on the consistency of bayes estimates. The Annals of Statistics, Vol. 14, No. 1, 30-37.
• Berger, J. (2006). The case for objective bayesian analysis. Bayesian Analysis. 1, Number 3, s. 385-402.
• Box, G.E.P Ve Tiao, G.C. (1992). Bayesian ınference ın statistical analysis. Wiley Classics Library Edition, New York, John Wiley & Sons.
• Ekici, O. (2005). Bayesyen regresyon ve winBUGS ile bir uygulama. Yayınlanmamış Yüksek Lisans Tezi, İstanbul Üniversitesi Sosyal Bilimler Enstitüsü, İstanbul.
• Burdzy, K. (2003). Probability is symmetry on foundations of science of probability. (1.02.2004).
• Casella G. Ve Berger R.L. (1990). Statistical inference. Belmont, California, Duxbury Press.
• Demir, Ö. (2000). Bilim felsefesi. (3.Basım), Ankara: Vadi Yayınları.
• Diaconis, P. Ve Freedman, D. (March 1986). On inconsistent bayes estimates of location. The Annals of Statistics, Vol. 14, No. 1, s. 68-87.
• Fienberg, S. (2006). Does it make sense to be an “objective bayesian”? Bayesian Analysis, 1, Number 3, s. 429-432.
• Goldstein, M. (2006). Subjective bayesian analysis: principles and practice. Bayesian Analysis, 1, Number 3, s. 402-420.
• Howson C. Ve Urbach P. (1993). Scientific reasoning: The bayesian approach. (2.Basım), Illinois, Open Court.
• Lindley, D. (1983). Theory and practice of bayesian statistics. The Statistician, 32, s. 1-11.
• Popper, K.R. (2003). Bilimsel araştırmanın mantığı. Çev. İlknur Aka – İbrahim Turan, (2.Basım), İstanbul: Yapı Kredi Yayınları.
• Wasserman, L. (2006). Frequentist bayes is objective. Bayesian Analysis, 1, Number 3, s. 451-456.
• Zellner, A. (1971). An introduction to bayesian inference in econometrics. New York, John Wiley & Sons.