A Bootstrap Confidence Interval for Skewness and Kurtosis and Properties of t-test in Small Samples from Normal Distribution

Abstract

Objectives: We examined the test properties about mean and mean differences, sampling distributions properties of mean and standard deviation, especially when the sample size is lower than 10 and the variable has normal distribution in population. In addition, we aimed to construct a 95% bootstrap confidence interval for skewness and kurtosis values in various samples sizes. Materials and Methods: In our simulation study, 10,000 samples with replacement were taken from the standard normal population. Various sample sizes were evaluated. Data which were obtained from an animal study were used for comparison of t-test's and Wilcoxon sign test's power in small sample. Results: According to our results, sampling distribution of skewness coefficients has normal distribution; however, kurtosis coefficients have positively skewed distribution. A bootstrap confidence interval for these coefficients by using these sampling distribution can be used for normality test. Moreover, it was shown that test statistic for the mean has t-distribution in all studied sample sizes. Conclusion: We can say that distribution shape of the variable plays a more important role than sample size in selection of appropriate test statistic. Turkish Başlık: Normal Dağılımdan Alınan Küçük Örneklerde Çarpıklık ve Basıklık için Bootstrap Güven Aralığı ve t-testinin Özellikleri Anahtar Kelimeler: Küçük örnekler; bootstrap simülasyon; t-testinin gücü; güven aralığı; çarpıklık ve basıklık katsayıları Amaç: Normal dağılımdan alınmış ve özellikle örnek genişliği 10'dan küçük olan örneklerden hesaplanan ortalama ve standart sapmanın örnekleme dağılımları ve ortalamaya ait hipotez testinin özellikleri incelenerek yine bu örneklerde çarpıklık ve basıklık katsayılarına ait %95 ihtimalli bootstrap güven aralıklarının oluşturulması amaçlanmıştır. Gereçler ve Yöntemler: Yapılan simülasyon çalışmasında standart normal dağılım gösteren popülasyondan geri iadeli olarak 10 000 örnek alınmıştır. Farklı örnek genişlikleri incelenmiştir. Küçük örnekte Wilcoxon işaret testi ve t-testinin güçlerini karşılaştırmalı olarak göstermek için bir hayvan deneyinden alınan veriler kullanılmıştır. Bulgular: Elde edilen bulgular değerlendirildiğinde, çarpıklık katsayısının örnekleme dağılımı normal dağılım olarak bulunurken, basıklık katsayısının pozitif çarpık bir dağılımı olduğu görülmüştür. Bu katsayıların örnekleme dağılımları kullanılarak bulunan bootstrap güven aralığı verilerin normallik testinde kullanılabilir. Bunun ötesinde örnek genişliklerinin tamamında ortalamaya ait test istatistiğinin t-dağılımına sahip olduğu görülmüştür. Sonuç: Uygun test istatistiğinin seçiminde verilerin dağılım şeklinin, örnek genişliğine göre daha önemli role sahip olduğu söylenebilir.

Keywords

• Small sample size; bootstrap simulation; power of t-test; confidence interval; skewness and kurtosis

Normal Dağılımdan Alınan Küçük Örneklerde Çarpıklık ve Basıklık için Bootstrap Güven Aralığı ve t-testinin Özellikleri

Öz

Amaç: Normal dağılımdan alınmış ve özellikle örnek genişliği 10’dan küçük olan örneklerden hesaplanan ortalama ve standart sapmanın örnekleme dağılımları ve ortalamaya ait hipotez testinin özellikleri incelenerek yine bu örneklerde çarpıklık ve basıklık katsayılarına ait %95 ihtimalli bootstrap güven aralıklarının oluşturulması amaçlanmıştır. Gereçler ve Yöntemler: Yapılan simülasyon çalışmasında standart normal dağılım gösteren popülasyondan geri iadeli olarak 10 000 örnek alınmıştır. Farklı örnek genişlikleri incelenmiştir. Küçük örnekte Wilcoxon işaret testi ve t-testinin güçlerini karşılaştırmalı olarak göstermek için bir hayvan deneyinden alınan veriler kullanılmıştır. Bulgular: Elde edilen bulgular değerlendirildiğinde, çarpıklık katsayısının örnekleme dağılımı normal dağılım olarak bulunurken, basıklık katsayısının pozitif çarpık bir dağılımı olduğu görülmüştür. Bu katsayıların örnekleme dağılımları kullanılarak bulunan bootstrap güven aralığı verilerin normallik testinde kullanılabilir. Bunun ötesinde örnek genişliklerinin tamamında ortalamaya ait test istatistiğinin t-dağılımına sahip olduğu görülmüştür. Sonuç: Uygun test istatistiğinin seçiminde verilerin dağılım şeklinin, örnek genişliğine göre daha önemli role sahip olduğu söylenebilir.

Anahtar Kelimeler

• Küçük örnekler, bootstrap simülasyon, t-testinin gücü, güven aralığı, çarpıklık ve basıklık katsayıları.

References

1. Motulsky H, editor. Intuitive biostatistics. 1st ed. New York: Oxford University Press; 1995.
2. Meek GE, Ozgur C, Dunning K. Comparison of the t vs. Wilcoxon signed-rank test for likert scale data and small samples. J Mod Appl Stat Methods 2007;6:91-106.
3. Tomkins CC. An Introduction to non-parametric sta- tistics for health scientists. Universty Alberta Health Sciences Journal 2006;3:20-6.
4. Sawilowsky SS, Blair RC. A more realistic look at the robustness and type II error properties of the t test to departures from population normality. Psychol Bull 1992;111:352-60.
5. Cribbie RA, Wilcox RR, Bewell C, Keselman HJ. Tests for treatment group equality when data are nonnor- mal and heteroscedastic. J Mod Appl Stat Methods 2007;6:117-32.
6. Zimmerman DW, Zumbo BD. The relative power of parametric and nonparametric statistical methods. In: Keren G, Lewis C, editors. A handbook for data analysis in the behavioral sciences: methodological issues. Hillsdale New Jersey: Lawrence Erlbaum Associates; 1993. p. 481-518.
7. Walters SJ. Sample size and power estimation for studies with health related quality of life outcomes: a comparison of four methods using the SF-36. Health Qual Life Outcomes 2004 ;2:26.
8. D'Agostino RB, Stephens MA, editors. Goodness-of- fit techniques. New York: M Dekker; 1986.

9. Hildebrand DK. Statistical thinking for behavioral scientists. Boston: Duxbury; 1986.
10. DeCarlo LT. On the meaning and use of kurtosis. Psychol Methods 1997;2:292-307.
11. Cohen J, editor. Statistical power analysis for the behavioral sciences. 2nd ed. Hillsdale New Jersey: Lawrence Erlbaum Associates; 1988.
12. Yazici B, Yolacan S. A comparison of various tests of normality. J Stat Comput Simul 2007;77:175-83.
13. Stevens J, editor. Applied multivariate statistics for the social sciences. Hillsdale New Jersey: Lawrence Erlbaum Associates; 1986.
14. Kanyongo GY, Brooks GP, Blankson LK, Gocmen G. Reliability and statistical power: how measurement fallibility affects power and required sample sizes for several parametric and nonparametric statistics. J Mod Appl Stat Methods 2007;6:81-90.
15. Halpern SD, Karlawish JH, Berlin JA. Re: "Ethics and sample size". Am J Epidemiol 2005;162:195-6.
16. Prentice R. Invited commentary: ethics and sample size--another view. Am J Epidemiol 2005;161:111-2.
17. Zar JH. Biostatistical analysis. 4th ed. Upper Saddle River New Jersey: Prentice Hall; 1999.
18. Sullivan LM, D'Agostino RB Sr. Robustness and power of analysis of covariance applied to ordinal scaled data as arising in randomized controlled tri- als. Stat Med 2003;22:1317-34.
19. Heeren T, D'Agostino R. Robustness of the two independent samples t-test when applied to ordinal scaled data. Stat Med 1987;6:79-90.
20. Wampold BE, Drew CJ, editors. Theory and appli- cation of statistics. 1st ed. New York: McGraw-Hill Pub; 1990.
21. Siegel S, Castellan NJ Jr, editors. Nonparametric sta- tistics for the behavioral sciences. 2nd ed. New York: McGraw-Hill; 1988.
22. Blair RC, Higgins JJ. Comparison of the power of the paired samples t test to that of Wilcoxon's signed- ranks test under various population shapes. Psychol Bull 1985;97:119-28.