A Software Engineering Framework for Intelligent Code Smell Detection with Machine Learning

Abstract

Identifying code smells is a fundamental task in software engineering for improving software quality and ensuring long-term system sustainability. This paper presents an intelligent framework designed to detect Large Class type code smells using a machine learning (ML) model trained on source code metrics. Within this proposed framework, multiple software metrics, including structural metrics, Halstead metrics, and cognitive metrics, are derived from Java source code files to serve as input features for classification. The Extreme Gradient Boosting (XGBoost) algorithm is utilized to identify whether a software contains a code smell or not. Experimental evaluations conducted on a dataset demonstrated that the proposed model reached an accuracy of 93.47%. Furthermore, it achieved an average improvement of 6.33% compared to existing methods evaluated on the same dataset. These findings indicate that our ML-based approach can provide effective and reliable solutions for automating code smell detection in software engineering.

Keywords

• Software Engineering
• Code Smell Detection
• Software Metrics
• Artificial Intelligence
• Classification
• Software Quality

Makine Öğrenimi ile Akıllı Kod Kokusu Tespiti için Bir Yazılım Mühendisliği Çerçevesi

Abstract

Kod kokularını belirlemek, yazılım kalitesini iyileştirmek ve uzun vadeli sistem sürdürülebilirliğini sağlamak için yazılım mühendisliğinde temel bir görevdir. Bu makale, kaynak kod metrikleri üzerinde eğitilmiş bir makine öğrenimi (ML) modeli kullanarak Büyük Sınıf tipi kod kokularını tespit etmek için tasarlanmış akıllı bir çerçeve sunmaktadır. Bu önerilen çerçeve içinde, yapısal metrikler, Halstead metrikleri ve bilişsel metrikler de dahil olmak üzere birden fazla yazılım metriği, sınıflandırma için girdi özellikleri olarak hizmet etmek üzere Java kaynak kod dosyalarından türetilir. Bir yazılımın kod kokusu içerip içermediğini belirlemek için Aşırı Gradyan Artırma (XGBoost) algoritması kullanılır. Bir veri kümesi üzerinde yapılan deneysel değerlendirmeler, önerilen modelin %93,47 doğruluk oranına ulaştığını göstermiştir. Ayrıca, aynı veri kümesi üzerinde değerlendirilen mevcut yöntemlere kıyasla ortalama %6,33'lük bir iyileşme sağlamıştır. Bu bulgular, ML tabanlı yaklaşımımızın yazılım mühendisliğinde kod kokusu tespitini otomatikleştirmek için etkili ve güvenilir çözümler sağlayabileceğini göstermektedir.

Keywords

• Yazılım Mühendisliği
• Kod Kokusu Tespiti
• Yazılım Metriği
• Yapay Zeka
• Sınıflandırma
• Yazılım Kalitesi

References

1. M.G. Al-Obeidallah and D. Al-Fraihat. “A systematic review on software code smells,” International Journal of Electrical and Computer Engineering, vol. 15, no. 3, pp. 3010-3027, June 2025. doi: 10.11591/ijece.v15i3
2. M. Hadj-Kacem and N. Bouassida, “Application of Deep Learning for Code Smell Detection: Challenges and Opportunities,” SN Computer Sciences, no 5, 614, 2024. doi: 10.1007/s42979-024-02956-5
3. F.R. Santos and R. Choren. “Data preprocessing for machine learning based code smell detection: A systematic literature review,” Information and Software Technology, vol. 184, 2025. doi: 10.1016/j.infsof.2025.107752
4. P. S. Thakur, S. S. Chouhan, S. S. Rathore and J. Parmar. “Systematic literature review on software code smell detection approaches,” Journal of Systems and Software, vol. 235, 2026, 112784. doi: 10.1016/j.jss.2026.112784
5. S. Alodibat and M. Azzeh, “A Systematic Review on Code Smell Detection Approaches in Open Source Projects,” Software: Practice and Experience, vol. 1, pp. 1-30, 2026. doi: 10.1002/spe.70074
6. P.S. Yadav, R.S. Rao, A. Mishra, and M. Gupta. “Machine Learning-Based Methods for Code Smell Detection: A Survey,” Applied Sciences, vol. 14, no. 14, 6149, 2024. doi: 10.3390/app14146149
7. R. Gupta and S. K. Singh, "Investigating transfer learning for code smell detection on homogeneous data," Innovations in Systems and Software Engineering, vol. 22, no. 3, pp. 1-20, Jan. 2026. doi:10.1007/s11334-025-00624-2
8. C. Kumar and S. K. Singh, "CodeSmellSynergy: A Hybrid Ensemble Framework for Python Code Smell Detection," Discover Computing, vol. 29, no. 171, pp. 1-25, 2026. doi:10.1007/s10791-026-10055-7

9. D. Cruz, A. Santana, and E. Figueiredo, "Evaluating a continuous feedback strategy to enhance machine learning code smell detection," Science of Computer Programming, vol. 247, no. 103346, 2026. doi:10.1016/j.scico.2025.103346
10. A. Wibowo, A. E. Permanasari, and T. B. Adji, "Enhanced code smell detection using random forest optimized with particle swarm variants," Results in Engineering, vol. 29, 109729, 2026. doi:10.1016/j.rineng.2026.109729
11. H.M. Alhadeaf and M. Alrashoud, "A Unified Multi-Label Code Smell Dataset for Code Smell Detection at Different Granularities," IEEE Access, vol. 14, pp. pp. 714-737, Jan. 2026. doi:10.1109/ACCESS.2025.3648907
12. R.S. Rao, K. Banjare and A. Mishra, "A Lightweight Hybrid Approach to Practical Code Smell Detection," IEEE Computer Society, vol. 1, 2026. doi: 10.1109/MS.2026.3671868
13. A.T. Siahmarzkooh, "Code Smell Detection Using a Hybrid LSTM-CNN Deep Learning Approach with Optimized Software Metrics," National Academy Science Letters, vol. 1, pp. 1-5, Apr. 2026. doi:10.1007/s40009-026-02183-x
14. M. Mosquera, R. Bojorque, and P. Flores, "Understanding Code Smell Detection Through Hyperparameter Optimization and Metric Correlation Analysis," IEEE Access, vol. 13, pp. 217750-217768, Dec. 2025. doi:10.1109/ACCESS.2025.3648183
15. K. Alkharabsheh, S. Alawadi, Y. Crespo and J. A. Taboada, "Exploring the role of project status information in effective code smell detection," Cluster Computing, vol. 28, no. 29, 2025. doi:10.1007/s10586-024-04724-9
16. I. Kheria, D. Gada, and R. Karani, "A Semisupervised Learning Approach for Code Smell Detection," SN Computer Science, vol. 6, no. 143, Feb. 2025. doi:10.1007/s42979-025-03680-4
17. S.R. Chowdhuri and M. Gupta, "Evaluating Multilabel Classification Algorithms for Code Smell Detection," SN Computer Science, vol. 6, no. 417, Apr. 2025. doi:10.1007/s42979-025-03955-w
18. E. Hamouda, A. El-Korany, and S. Makady, "Smell-ML: A Machine Learning Framework for Detecting Rarely Studied Code Smells," IEEE Access, vol. 13, pp. 12966-12980, Jan. 2025. doi:10.1109/ACCESS.2025.3530927
19. R. Sandouka and H. Aljamaan, "Cross-Language Code Smell Detection via Transfer Learning," Applied Sciences, vol. 15, no. 9293, Aug. 2025. doi:10.3390/app15179293
20. R. Malhotra, B. Jain, and M. Kessentini, "QNet: exploring deep learning for quantum code smell detection," Software Quality Journal, vol. 33, no. 25, May 2025. doi:10.1007/s11219-025-09724-5
21. I. Ali, S.S.H. Rizvi; S.H. Adil. “Enhancing Software Quality with AI: A Transformer-Based Approach for Code Smell Detection,” Applied Sciences, vol. 15, 4559, 2025. doi: 10.3390/app15084559
22. E. Frank, M. A. Hall, and I. H. Witten, Data Mining: Practical Machine Learning Tools and Techniques, 4th ed. Morgan Kaufmann, 2016