Educational Data Mining with Decision Tree and Rule Induction: A Case Study of SAU ILITAM

Year 2024, , 94 - 120, 15.05.2024

Deniz Demircioğlu Diren , Mehmet Barış Horzum

https://doi.org/10.9779/pauefd.1085483

Abstract

This study aims to examine whether a student is a successful graduate or a dropout/failure according to the profile of students enrolled in a blended bachelor's degree completion program (ILITAM). The weights of the attributes were also determined to examine the effect of the attributes on the output. In the study, the CRISP-DM process method used within the scope of educational data mining was employed. The information gain method was used to reveal the feature weights. The study group consisted of the students who entered the Sakarya University ILITAM program between 2013-2016. The data set consisted of systematic records, the student's university entrance information and the target value, that is, the student's graduation success status from the university. As a result, the attribute that had the most impact on the target value was obtained as the gender of the student. Also, when a new student enrolled, the prediction of his or her graduation success rate based on his or her general information was made using the nearest neighbor algorithm with an accuracy rate of 91.30%. Thus, plans for students can be made with improvement suggestions. The relevant conclusions and suggestions regarding the findings of the research are discussed accordingly.

Keywords

Educational Data Mining, Data Processing, Rule Induction, Decision Tree, ILITAM

Karar Ağacı ve Kural Tümevarımı ile Eğitsel Veri Madenciliği: SAÜ İLİTAM Örneği

Abstract

Bu çalışma, karma bir lisans tamamlama programına (İLİTAM) kayıt yaptıran öğrencilerin profiline göre, öğrencinin başarılı olma ya da terk etme/başarısız olma durumlarını incelemeyi amaçlamaktadır. Ayrıca öğrenci verilerine ait değişkenlerin öznitelik ağırlıklarına göre öğrencinin başarılı olma ya da terk etme/başarısız olma durumları üzerindeki önem dereceleri de ele alınmıştır. Araştırma yöntemi olarak eğitsel veri madenciliği kapsamında kullanılan CRISP-DM süreç modelinden faydalanılmıştır. Öznitelik ağırlıkları ise bilgi kazanımı yöntemi ile tespit edilmiştir. Araştırmanın çalışma grubu Sakarya Üniversitesi (SAÜ) lisans tamamlama programına 2013-2016 yılları arasında programa giriş yapan öğrencilerden oluşmaktadır. Sistemsel kayıtlardan elde edilen veri seti öğrencinin üniversiteye giriş bilgilerini içermektedir ve buna karşılık hedef değer ise öğrencinin üniversiteden mezuniyet başarı durumları yani başarılı olma ya da terk etme/başarısız olma durumları ile oluşturmuştur. Sonuçlar hedef değere en çok etki eden parametrenin öğrencinin cinsiyeti olduğunu göstermektedir. Ayrıca en yakın komşu algoritması kullanılarak 91.30% tahmin doğruluğu oranıyla bir öğrencinin kayıt yaptırdığında sahip olduğu genel bilgilerine göre mezuniyet başarı durumlarının tahmini gerçekleştirilmiştir. Bu sayede öğrenciye yönelik planlama yapmak ve önerilerde bulunmak mümkün olacaktır. Araştırmada bulgulara yönelik sonuç ve öneriler geliştirilmiştir.

Keywords

eğitsel veri madenciliği, veri ön işleme, karar ağacı, kural tümevarım, ILITAM

References

• Abu Saa, A., Al-Emran, M. & Shaalan, K. (2019). Factors affecting students’ performance in higher education: a systematic review of predictive data mining techniques. Technology, Knowledge and Learning, 24(4), 567-598. https://doi.org/10.1007/s10758-019-09408-7
• Aghalarova, S. & Keser, S. B. (2021). Önerilen Yapay Sinir Ağı Algoritması ile Ortaokul Öğrencilerin Akademik Performansının Tahmini. Veri Bilimi, 4(2), 19-32.
• Akaslan, Y. (2020). Mahiyet, nitelik ve müfredat açısından ilitam programlarında Kur’an-ı kerim dersleri (Ondokuz Mayıs Üniversitesi Örneği). Ondokuz Mayıs Üniversitesi İlahiyat Fakültesi Dergisi, 49, 9-37. https://doi.org/10.17120/omuifd.779343
• Akçapınar, G. (2014). Çevrimiçi öğrenme ortamındaki etkileşim verilerine göre öğrencilerin akademik performanslarının veri madenciliği yaklaşımı ile modellenmesi. [Yayınlanmamış Doktora Tezi. Hacettepe Üniversitesi]. Ulusal Tez Merkezi.
• Akgün, E. (2019). 2023 Eğitim vizyonunda eğitsel veri madenciliği. Seta Perspektif, 228,1-6.
• Akram, A., Fu, C., Li, Y., Javed, M. Y., Lin, R., Jiang, Y. & Tang, Y. (2019). Predicting students’ academic procrastination in blended learning course using homework submission data. Ieee Access, 7, 102487-102498. https://doi.org/10.1109/ACCESS.2019.2930867
• Arslan, F., & Korkmaz, Ö. (2019). İlahiyat lisans tamamlama uzaktan eğitim öğrencilerinin etkileşim kaygıları ve uzaktan eğitime dönük tutumları. Ahmet Keleşoğlu Eğitim Fakültesi Dergisi, 1(1), 12-25.
• Aruğaslan, E. & Çivril, H. (2021). Türkiye’de eğitim alanında yapılan veri madenciliği ve yapay zeka çalışmaları. Uluslararası Teknolojik Bilimler Dergisi, 13(2), 81-89.
• Aydemir, B. (2017). Veri madenciliği yöntemleri kullanarak meslek yüksek okulu öğrencilerinin akademik başarı tahmini [Yüksek lisans tezi, Pamukkale Üniversitesi]. Ulusal Tez Merkezi.
• Aydemir, E. (2019). Ders Geçme Notlarının Veri Madenciliği Yöntemleriyle Tahmin Edilmesi. Avrupa Bilim ve Teknoloji Dergisi, (15), 70-76. https://doi.org/10.31590/ejosat.518899
• Bakhshinategh, B., Zaiane, O. R., ElAtia, S. & Ipperciel, D. (2018). Educational data mining applications and tasks: A survey of the last 10 years. Education and Information Technologies, 23(1), 537-553. 10.1007/s10639-017-9616-z
• Baltacı, A. (2018). The Data Mining: Measurement of Academic Achievement in Faculty of Divinity Students by Data Mining. Din ve Bilim –Muş Alparslan Üniversitesi İslami İlimler Fakültesi Dergisi, 1(1), 1-23
• Başer, S. H., Hökelekli, O. ve Kemal, A. D. E. M. (2020). Ortaöğretimde Öğrenim Gören Öğrenci Performanslarının Veri Madenciliği Yöntemleri İle Tahmin Edilmesi. Bilgisayar Bilimleri ve Teknolojileri Dergisi, 1(1), 22-27.
• Bilen, Ö., Hotaman, D., Aşkın, Ö. E. & Büyüklü, A. H. (2014). LYS başarılarına göre okul performanslarının eğitsel veri madenciliği teknikleriyle incelenmesi: 2011 İstanbul örneği. Eğitim ve Bilim, 39(172), 78-94.
• Bilgin, M. (2018). Veri biliminde makine öğrenmesi makine öğrenmesi teorisi ve algoritmaları (2. Baskı). Papatya Bilim.
• Bliuc, A. M., Ellis, R., Goodyear, P. & Piggott, L. (2010). Learning through face‐to‐face and online discussions: Associations between students' conceptions,approaches and academic performance in political science. British Journal of Educational Technology, 41(3), 512-524. https://doi.org/10.1111/j.1467-8535.2009.00966.x
• Byeon, H. (2022). Developing a predictive model for depressive disorders using stacking ensemble and naive Bayesian nomogram: using samples representing South Korea. Frontiers in Psychiatry, 12. https://doi.org/10.3389/fpsyt.2021.773290.
• Chapman, P., Clinton, J., Kerber, R., Khabaza, T., Reinartz, T., Shearer, C. & Wirth, R. (2000). CRISP-DM 1.0: Step-by-step data mining guide. SPSS inc, 9 (13), 1-73.
• Chawla, N. V., Bowyer, K. W., Hall, L. O. & Kegelmeyer, W. P. (2002). SMOTE: synthetic minority over-sampling technique. Journal of artificial intelligence research, 16, 321-357. https://doi.org/10.48550/arXiv.1106.1813
• Chawla, Nitesh V. (2005). Data mining for imbalanced datasets: an overview. O. Maimon and L. Rokach (Ed.), Data mining and knowledge discovery handbook. 853-867. Boston. Springer.
• Çiftçi, F., Kaleli, C. & Serkan, Ü. (2018). Öznitelik seçme ve makine öğrenmesi yöntemleriyle eğitmen performansının tahmin edilmesi. Anadolu Journal of Educational Sciences International, 8(2), 419-440. https://doi.org/10.18039/ajesi.454587
• Costa, E. B., Fonseca, B., Santana, M. A., de Araújo, F. F. & Rego, J. (2017). Evaluating the effectiveness of educational data mining techniques for early prediction of students' academic failure in introductory programming courses. Computers in human behavior, 73, 247-256. https://doi.org/10.1016/j.chb.2017.01.047
• Dağ, M. (2013). İlahiyat lisans tamamlama (İLİTAM) programlarında Kur’an dersi-müfredat, materyal hazırlama ve karşılaşılan sorunlar. Ekev Akademi Dergisi, 17 (55), 37-54.
• Devasia, T., Vinushree, T. P. & Hegde, V. (2016). Prediction of students performance using Educational Data Mining. In 2016 International Conference on Data Mining and Advanced Computing (SAPIENCE). 91-95. IEEE. https://doi.org/10.14569/IJACSA.2016.070531
• Durairaj, M. & Vijitha, C. (2014). Educational data mining for prediction of student performance using clustering algorithms. International Journal of Computer Science and Information Technologies, 5(4), 5987-5991. https://doi.org/10.1016/j.matpr.2021.05.646
• Dutt, A., Ismail, M. A. & Herawan, T. (2017). A systematic review on educational data mining. Ieee Access, 5, 15991-16005. https://doi.org/10.1109/ACCESS.2017.2654247
• Educational Data Mining, (2022, Ocak 5). International Educational Data Mining Society. (2021). educationaldatamining.org. https://educationaldatamining.org/.
• Ersöz, A. R. (2017). Eğitsel veri madenciliği ile öğrenci profillerinin belirlenmesi. [Yayınlanmamış Doktora Tezi. Bursa Uludağ Üniversitesi].
• Fu, T. C. (2011). A review on time series data mining. Engineering Applications of Artificial Intelligence, 24(1), 164-181. https://doi.org/10.1016/j.engappai.2010.09.007
• Genç, M. F. & Ayhan, M. (2021). İLİTAM Bölümü Öğrencilerinin Hadis Dersine Yönelik Tutumları. Mizanü'l-Hak: İslami İlimler Dergisi, (12), 77-109. https://doi.org/10.47502/mizan.933285
• Gonçalves, A. F. D., Maciel, A. M. A. & Rodrigues, R. L. (2017). Development of a data mining education framework for data visualization in distance learning environments. In International Conference on Software Engineering and Knowledge Engineering. https://doi.org/0.18293/SEKE2017-130
• Gümrükçüoğlu, S. & Genç, M. F. (2020). İLİTAM Bölümü Öğrencilerinin İlâhiyat Eğitimine Bakışı Kocaeli Üniversitesi İlâhiyat Fakültesi İLİTAM Örneği. İHYA Uluslararası İslam Araştırmaları Dergisi, 6(2), 640-656.
• Güre, Ö. B., Kayri, M. & Erdoğan, F. (2020). PISA 2015 matematik okuryazarlığını etkileyen faktörlerin eğitsel veri madenciliği ile çözümlenmesi. Eğitim ve Bilim, 45(202), 393-415. https://doi.org/10.15390/EB.2020.8477
• Hakyemez, T. C. (2015). İlk Yil Öğrencilerinin Akademik Performansina Etki Eden Faktörlerin Araştirilmasi ve Bu Faktörlere Bağli Olarak Başarilarinin Tahminine Yönelik Bir Karar Destek Sistemi Tasarim. [Yayınlanmamış Yükseklisans Tezi. Sakarya Üniversites]. Ulusal Tez Merkezi.
• Han, J., Pei, J. & Kamber, M. (2011). Data mining: concepts and techniques. Elsevier.
• Hermaliani, E. H., Fanani, A. Z., Santoso, H. A., Affandy, A., Purwanto, P., Muljono, M., Syukur, A., Setiadi, D.R.I.M. & Rafrastara, F. A. (2022). Systematic Review of Educational Data Mining for Student Performance Prediction using Bibliometric Network Analysis (SeBriNA). In 2022 International Seminar on Application for Technology of Information and Communication (iSemantic) (s. 463-468). IEEE. https://doi.org/10.1109/iSemantic55962.2022.9920477
• Howard, S. K., Ma, J. & Yang, J. (2016). Student rules: Exploring patterns of students’ computer-efficacy and engagement with digital technologies in learning. Computers & Education, 101, 29-42. https://doi.org/10.1016/j.compedu.2016.05.008
• Hung, H. C., Liu, I. F., Liang, C. T. & Su, Y. S. (2020). Applying educational data mining to explore students’ learning patterns in the flipped learning approach for coding education. Symmetry, 12(2), 1-14. https://doi.org/10.3390/sym12020213.
• Imran, M., Latif, S., Mehmood, D. & Shah, M. S. (2019). Student Academic Performance Prediction using Supervised Learning Techniques. International Journal of Emerging Technologies in Learning, 14(14), 92-104. https://doi.org/ 10.3991/ijet.v14i14.10310
• Kabakchieva, D. (2013). Predicting student performance by using data mining methods for classification. Cybernetics and Information Technologies, 13(1), https://doi.org/61-72. 10.2478/cait-2013-0006
• Kablan, S. (2020). Koronavirüs (Covid-19) pandemi sürecinde çevrimiçi yapılan Kuran-ı kerim dersi sınav değerlendirilmesi: İstanbul Üniversitesi ilahiyat fakültesi ilitam sınavları örneği. Atlas international congress on social sciences 7.
• Kamath, U. & Choppella, K. (2017). Mastering Java Machine Learning: A Java developer's guide to implementing machine learning and big data architectures. Packt Publishing.
• Karateke, T. (2020). İlitam öğrencilerinin bu programı seçme nedenleri ve karşılaştıkları sorunlar: Fırat Üniversitesi örneği. Değerler Eğitimi Dergisi, 18(39), 235-262. https://doi.org/10.34234/ded.634501
• Kassim, A. A., Kazi, S. A. & Ranganath, S. (2004). A web-based intelligent learning environment for digital systems. International Journal of Engineering Education, 20(1), 13-23. https://doi.org/10.1108/02640470610689250
• Kay, J. (2000). Stereotypes, student models and scrutability. In International Conference on Intelligent Tutoring Systems (s. 19-30). Springer, Berlin, Heidelberg. https://doi.org/10.1007/3-540-45108-0_5
• Kaymakcan, R., Meydan, H., Telli, A. & Cevherli, K. (2013). Paydaşlarına göre ilahiyat lisans tamamlama (İLİTAM) programının değerlendirilmesi. Değerler Eğitimi Dergisi, 11(26), 71-110.
• Keskin, S., Aydin, F. & Yurdugül, H. (2019). Eğitsel veri madenciliği ve öğrenme analitikleri bağlaminda e-öğrenme verilerinde aykiri gözlemlerin belirlenmesi. Eğitim Teknolojisi Kuram ve Uygulama, 9(1), 292-309. https://doi.org/10.17943/etku.475149
• Khasanah, A. U. (2017). A comparative study to predict student’s performance using educational data mining techniques. In IOP Conference Series: Materials Science and Engineering, 215 (2017). https://doi.org/10.1088/1757-899X/215/1/012036
• Kismet, E. (2018). Eğitsel veri madenciliğinde kullanılmak üzere experience api (XAPI) temelli öğrenme deneyimi kayıtlarının işlenebilmesi için bir model geliştirilmesi. [Yayınlanmamış yüksek lisans tezi. Kocaeli Üniversitesi].
• Lantz, B. (2015). Machine Learning with R: Discover how to build machine learning algorithms, prepare data, and dig deep into data prediction techniques with R (2. Baskı). Packt Publishing.
• Lantz, B. (2019). Machine learning with R: expert techniques for predictive modeling. Packt Publishing.
• Longadge, R. & Dongre, S. (2013). Class imbalance problem in data mining review. International Journal of Computer Science and Network (IJCSN), 2(1). https://doi.org/10.48550/arXiv.1305.1707
• Maimon, O. & Rokach, L. (Eds.). (2005). Data mining and knowledge discovery handbook (2. Baskı). Springer
• McClean, S. I. (2003). Data mining and knowledge discovery. R. A. Meyers (Ed.), Encyclopedia of Physical Science and Technology (3. Baskı, s. 229-246). New York. Academic Press.
• Miller, L. D., Soh, L. K., Samal, A., Kupzyk, K. & Nugent, G. (2015). A Comparison of Educational Statistics and Data Mining Approaches to Identify Characteristics That Impact Online Learning. Journal of Educational Data Mining, 7(3), 117-150.
• Mitchell, T. (1997). Machine learning. McGraw-Hill Science.
• Moradi, H., Moradi, S. A. & Kashani, L. (2014). Students’ performance prediction using multi-channel decision fusion. A. Peña-Ayala (Ed.), Educational Data Mining (s. 151-174). Springer.
• Morsy, S. & Karypis, G. (2017). Cumulative knowledge-based regression models for next-term grade prediction. In Proceedings of the 2017 SIAM International Conference on Data Mining (s. 552-560). Society for Industrial and Applied Mathematics.
• Namoun, A. & Alshanqiti, A. (2020). Predicting student performance using data mining and learning analytics techniques: A systematic literature review. Applied Sciences, 11(1), 237. https://doi.org/10.3390/app11010237
• Özbay, Ö. (2015). Veri madenciliği kavramı ve eğitimde veri madenciliği uygulamaları. The Journal of International Educational Sciences 2(5), 262-262. https://doi.org/10.16991/INESJOURNAL.162
• Özçınar, H. (2006). KPSS sonuçlarının veri madenciliği yöntemleriyle tahmin edilmesi [Yüksek lisans tezi, Pamukkale Üniversitesi]. Ulusal Tez Merkezi.
• Özdemir, Ş. (2016). Eğitimde veri madenciliği ve öğrenci akademik başarı öngörüsüne ilişkin bir uygulama. [Doktora tezi, İstanbul Üniversitesi].
• Öztürk, A. (2018). Açık ve uzaktan öğrenme ortamlarında eğitsel veri madenciliği. Açıköğretim Uygulamaları ve Araştırmaları Dergisi, 4(2), 10-13.
• Pascual-Cid, V., Vigentini, L. & Quixal, M. (2010). Visualising virtual learning environments: Case studies of the Website exploration tool. In 2010 14th International Conference Information Visualisation (s. 149-155). IEEE. https://doi.org/10.1109/IV.2010.31
• Polat, A. (2021). Açık öğretim liseleri öğrencilerinin okul terki ve mezuniyet durumlarının eğitsel veri madenciliği ile incelenmesi. [Doktora tezi, Sakarya Üniversitesi]. Ulusal Tez Merkezi
• Polyzou, A. & Karypis, G. (2016). Grade prediction with models specific to students and courses. International Journal of Data Science and Analytics, 2(3), 159-171. https://doi.org/10.48550/arXiv.1906.00792
• Prasetiyowati, M. I., Maulidevi, N. U. & Surendro, K. (2021). Determining threshold value on information gain feature selection to increase speed and prediction accuracy of random forest. Journal of Big Data, 8(1), 84. https://doi.org/10.21203/rs.3.rs-132775/v1
• Quinlan, J.R. (1986). Induction of decision trees. Machine Learning, 1(1), 81–106. https://doi.org/10.1007/BF00116251
• Rapidminer (2020). Rapidminer Documentation Weight by rule (RapidMiner Studio Core;Version 9.9). “Rapidminer, Weight by Rule 2020”. Erişim 17 Ocak 2022. http://docsupcoming.rapidminer.com/9.2/studio/operators/modeling/feature_weights/weight_by_rule.html.
• Rapidminer (2020). Rapidminer Rule Induction (2020) (RapidMiner Studio Core; Version 9.9). “Rapidminer, rule induction 2020”. Erişim 17 Ocak 2022. http://docs-upcoming.rapidminer.com/9.4/studio/operators/modeling/predictive/rules/rule_induction.html?upcoming-rapidminer%5Bpage%5D=9.
• Refaeilzadeh, P., Tang, L. & Liu, H. (2009). Cross-validation. L. Liu ve M. T. Özsu. (Ed.), Encyclopedia of Database Systems (s. 532-538). Boston. Springer. https://doi.org/10.1007/978-0-387-39940-9_565
• Rodrigues, M. W., Isotani, S. & Zarate, L. E. (2018). Educational Data Mining: A review of evaluation process in the e-learning. Telematics and Informatics, 35(6), 1701-1717. https://doi.org/10.1016/j.tele.2018.04.015
• Rojanavasu, P. (2019). Educational data analytics using association rule mining and classification. In 2019 joint international conference on digital arts, media and technology with ECTI northern section conference on electrical, electronics, computer and telecommunications engineering. 142-145. IEEE. https://doi.org/ 10.1109/ECTI-NCON.2019.8692274
• Romero, C. & Ventura, S. (2007). Educational data mining: A survey from 1995 to 2005. Expert Systems with Applications, 33(1), 135-146. https://doi.org/10.1016/j.eswa.2006.04.005
• Romero, C., Ventura, S., Espejo, P. G. & Hervás, C. (2008). Data mining algorithms to classify students. In Educational data mining.
• Şengür, D. & Tekin, A. (2013). Öğrencilerin mezuniyet notlarının veri madenciliği metotları ile tahmini. Bilişim Teknolojileri Dergisi, 6(3), 7-16.
• Shahiri, A. M., & Husain, W. (2015). A review on predicting student's performance using data mining techniques. Procedia Computer Science, 72, 414-422. https://doi.org/ 10.1016/j.procs.2015.12.157
• Sivakumar, S., Venkataraman, S. & Selvaraj, R. (2016). Predictive modeling of student dropout indicators in educational data mining using improved decision tree. Indian Journal of Science and Technology, 9(4), 1-5. https://doi.org/10.17485/ijst/2016/v9i4/87032
• Sokkhey, P. & Okazaki, T. (2020). Developing web-based support systems for predicting poor-performing students using educational data mining techniques. International Journal of Advanced Computer Science and Applications, 11(7). https://doi.org/ 10.14569/IJACSA.2020.0110704
• Sorour, S. E., Mine, T., Goda, K. & Hirokawa, S. (2014). Predicting students' grades based on free style comments data by artificial neural network. In 2014 IEEE Frontiers in Education Conference (FIE) Proceedings (s. 1-9). IEEE. https://doi.org/ 10.1109/FIE.2014.7044399
• Teki̇n, A. & Özteki̇n, Z. (2018). Eğitsel veri madenciliği ile ilgili 2006-2016 yılları arasında yapılan çalışmaların incelenmesi. Eğitim Teknolojisi Kuram ve Uygulama, 8(2), 108-124. https://doi.org/10.17943/etku.351473
• Tosunoğlu, E., YILMAZ, R., Özeren, E. & Sağlam, Z. (2021). Eğitimde makine öğrenmesi: Araştırmalardaki güncel eğilimler üzerine inceleme. Ahmet Keleşoğlu Eğitim Fakültesi Dergisi, 3(2), 178-199. https://doi.org/10.3815/akef.2021.16
• Wang, C. S. & Lin, S. L. (2012). Combining fuzzy AHP and association rule to evaluate the activity processes of e-learning system. In 2012 Sixth International Conference on Genetic and Evolutionary Computing (s. 566-570). IEEE.
• Wirth, R. & Hipp, J. (2000). CRISP-DM: Towards a standard process model for data mining. In Proceedings of the 4th international conference on the practical applications of knowledge discovery and data mining 1. 29-40.
• Yukselturk, E., Ozekes, S., & Turel, Y. K. (2014). Predicting dropout student: An application of data mining methods in an online education program. European Journal of Open, Distance and e-learning, 17(1), 118-133. https://doi.org/10.2478/eurodl-2014-0008
• Zacharis, N. Z. (2016). Predicting student academic performance in blended learning using artificial neural networks. International Journal of Artificial Intelligence and Applications, 7(5), 17-29. https://doi.org/10.5121/IJAIA.2016.7502