Predicting Mathematics 1 Course Success by Using Hierarchical Adaptive Network Based Fuzzy Inference System

Abstract

Predicting Mathematics 1 course success of students is very important to prepare them before the semester. It is difficult to obtain solution because of the non-linear property of data set. Fuzzy logic is one of the common methods for the problems which involve numeric values. In fuzzy logic, it is important to determine membership functions and their parameter's values correctly. This can be done by an expert or can be learned with a data set. In this study, we aimed to predict the Mathematics 1 course success of 434 students who enrolled to Engineering Faculty of Pamukkale University in 2007-2008 academic year by using their university exam data. For this, the adaptive-network-based fuzzy inference system (ANFIS) which combines the important characteristics of artificial neural network and fuzzy logic was used. In training section, nine parameters which are selected from sixteen parameters in data set with different combinations were given to the ANFIS. When an ANFIS structure with nine input parameters has at least three membership functions for each input, it will have at least 3^9 fuzzy rules. Because of this, the training part is too slow and too much memory is needed. Instead of this inefficient structure, a hierarchical method was proposed. In this method, the ANFIS is partitioned to the sub-systems. Each sub-system performs some part of input parameters and sends their result to the final ANFIS structure to obtain the overall system output. After testing with one-third of data set, two best prediction results with ratio 77.77% and 78.47% are obtained. When these results are analyzed, it is seen that 64 successful students from 85 students and 48 unsuccessful students from 59 students in Mathematics 1 course were predicted truly in the result with ratio 77.77%. Similarly, 69 successful students from 85 students, and 44 unsuccessful students from 59 students were predicted truly in the result with ratio 78.47%.

Keywords

• Fuzzy logic, Artificial neural network, Adaptive network based fuzzy inference system (ANFIS), Hierarchical ANFIS, Machine learning, Prediction of Mathematics course success.

Hiyerarşik Uyarlanabilir Ağ Tabanlı Bulanık Çıkarım Sistemi Kullanılarak Matematik 1 Dersi Başarı Tahmini

Öz

Öğrencilerin Matematik 1 dersinden alacağı notları önceden tahmin etmek dönem öncesi öğrencileri Matematik 1 dersine hazırlamak için oldukça önemlidir. Verilerin doğrusal olmayan yapılarından dolayı çözüm elde etme zor olmaktadır. Sayısal değerler içeren bu tür problemler için çözüm sunan bulanık mantık yöntemi tercih edilen yöntemlerden bir tanesidir. Bulanık mantıkla çözüm elde etmek için üyelik fonksiyonlarını ve onların parametre değerlerini doğru belirlemek gereklidir. Bu işlem bir uzman tarafından yapılabildiği gibi bir veri kümesi kullanılaraktan da yapılabilmektedir. Bu çalışmada, Pamukkale Üniversitesi Mühendislik Fakültesi'ne 2007-2008 Eğitim-Öğretim yılında kayıt yaptıran 434 öğrencinin Öğrenci Seçme Sınavında elde ettikleri verileri kullanarak öğrencilerin Matematik 1 dersinden elde edeceği başarı durumunu önceden tahmin etmek amaçlanmıştır. Bu veri kümesini kullanarak üyelik fonksiyonlarını belirlemek için yapay sinir ağı ve bulanık mantık yönteminin önemli özelliklerini birleştiren uyarlanabilir ağ tabanlı bulanık çıkarım sistemi (ANFIS) kullanılmıştır. Eğitim aşamasında veri kümesindeki 16 nitelikten farklı kombinasyonlarla seçilen 9 veri niteliği ANFIS yapısına girdi olarak verilmiştir. Fakat dokuz tane girdi parametresine sahip olan bir bulanık çıkarım sisteminin her girdisinin en az üç tane üyelik fonksiyonuna sahip olduğu durumlarda bu çıkarım sisteminde en az 3^9 tane kural meydana gelmektedir. Bu yüzden eğitim işlemi oldukça vakit almakta ve bu işlem için oldukça fazla belleğe ihtiyaç duyulmaktadır. Bu çalışmada, çok verimsiz olan bu yapı yerine hiyerarşik bir yöntem önerilmiştir. Bu yöntemde ANFIS yapısı küçük alt sistemlere ayrılmaktadır. Her alt sistem veri kümesinin bazı parçalarını işlemekte ve elde ettiği çıktı değerlerini sistemden beklenilen asıl çıktı değerinin elde edilmesi için sonuç ANFIS yapısına girdi olarak göndermektedir. Verilerin üçte biri ile yapılan deneme işleminden sonra %77,77 ve %78,47 genel tahmin oranına sahip iki tane iyi sonuç elde edilmiştir. Bu sonuçlar detaylı incelendiğinde, ilk sonuçta Matematik 1 dersinden geçen 85 öğrencinin 64'ü, kalan 59 öğrencinin 48'i doğru tahmin edilmiştir. İkinci sonuçta ise dersten geçen 85 öğrencinin 69'u ve dersten kalan 59 öğrencinin 44'ü doğru tahmin edilmiştir.

Anahtar Kelimeler

• Bulanık mantık, Yapay sinir ağı, Uyarlanabilir ağ tabanlı bulanık çıkarım sistemi (ANFIS), Hiyerarşik ANFIS, Makine öğrenmesi, Matematik dersi başarı tahmini.

References

1. Yen, J. ve Langari, R., Fuzzy Logic: Intelligence, Control, and Information, Prentice Hall, Upper Saddle River, New Jersey, USA, ISBN: 0-13-525817-0, 1998.
2. Jang, J.S.R., “ANFIS: Adaptive-Network-Based Fuzzy Inference System,” IEEE Transactions on Systems, Man, and Cybernetics, Cilt: 23, No: 3, s: 665-685, 1993.
3. Jang, J.S.R., “Fuzzy Modeling Using Generalized Neural Networks and Kalman Filter Algorithm,” AAAI-91 Proceedings, 1991, s: 762-767.
4. Wang, L.X. ve Mendel, J.M., “Generating Fuzzy Rules by Learning from Examples,” IEEE Transactions on Systems, Man, and Cybernetics, Cilt: 22, No: 6, s: 1414-1427, 1992.
5. Zhao, Z. ve De Souza, R., “Fuzzy rule learning during simulation of manufacturing resources,” Elsevier, Fuzzy Sets and Systems, Cilt: 122, No: 3, s: 469-485, 2001.
6. Hammell II, R.J. ve Sudkamp, T., “Learning Fuzzy Rules From Data,” RTO SCI Symposium on The Application of Information Technologies (Computer Science) to Mission Systems, Monterey, California, USA, 1998.
7. Li, K., Su, H. ve Chu, J., “Forecasting building energy consumption using neural networks and hybrid neuro- fuzzy system: A comparative study,” Elsevier, Energy and Buildings, Cilt: 43, No: 10, s: 2893-2899, 2011.
8. Li, K. ve Su, H., “Forecasting building energy consumption with hybrid genetic algorithm-hierarchical adaptive network-based fuzzy inference system,” Elsevier, Energy and Buildings, Cilt: 42, No: 11, s: 2070-2076, 2010.

9. Baek, G., Cho, J., Choi, M. H. ve Kim, S., “On-line Monitoring of Oil in Water Using Transmitted-scattered Lights and Clustering-based Hierarchical TSK Fuzzy Systems,” IEEE Transactions, IEEE International Conference on Fuzzy Systems, Barcelona, 2010, s: 1-8.
10. Naghibi, S. S., Teshnehlab, M. ve Shoorehdeli, M. A., “Breast Cancer Detection by using Hierarchical Fuzzy Neural System with EKF Trainer,” IEEE Transactions, Proceedings of the 17th Iranian Conference of Biomedical Engineering (ICBME2010), Isfahan, 2010, s: 1-4.
11. Güner, N. ve Çomak, E., “Mühendislik Öğrencilerinin Matematik 1 Derslerindeki Başarısının Destek Vektör Makineleri Kullanılarak Tahmin Edilmesi”, Pamukkale Üniversitesi Mühendislik Bilimleri Dergisi, Cilt: 17, Sayı: 2, s: 87-96, 2011.
12. Mitchell, T. M.,
13. Machine Learning, McGraw-Hill
14. International Editions, ISBN: 0-07-115467-1, 1997.
15. Oladokun, V. O., Adebanjo, A. T. ve Charles-Owaba, O. E., ”Predicting Students Academic Performance using Artificial Neural Network: A Case Study of an Engineering Course”, The Pacific Journal of Science and Technology, Cilt: 9, Sayı: 1, s: 72-79, 2008.