Reliability of evaluation and explanation in network intrusion detection: Jointly interrogating high performance and SHAP–LIME explanations

Öz

Context—Machine-learning-based network intrusion detection systems frequently report accuracy and F1-scores above 99% on common benchmark datasets. Although these scores are useful for comparing algorithms, they may also reflect evaluation design, repeated traffic patterns, class imbalance, or dataset-specific artefacts rather than operational detection capacity. This problem is especially relevant for CICIDS2017, where traffic generation, flow extraction, feature construction and labeling choices can influence reported reliability.

Objective—This study uses explainable artificial intelligence as a diagnostic layer rather than as a final instrument for legitimizing high model performance. The objective is to examine how split strategy, potentially static port information and explanation consistency affect the interpretation of intrusion detection results.

Method—After quality control, 2,519,994 CICIDS2017 flows were analyzed, with 83.1% benign and 16.9% attack traffic. Because explicit timestamps are not available in the MachineLearningCVE CSV files, the study does not claim strict chronological evaluation. Instead, a within-day sequential block protocol based on row order was used as a conservative alternative to stratified random splitting. A 2×2 factorial design crossed split strategy with the inclusion or exclusion of Destination Port. Random Forest, Extra Trees and XGBoost were compared as tree-based detectors. SHAP and LIME explanations were evaluated through rank correlations, Jaccard overlap, Rank-Biased Overlap, stability and fidelity analyses. The same diagnostic logic was re-examined on UNSW-NB15.

Results—For Random Forest, the F1-score decreased from 99.78% with random splitting to 97.49% with the within-day sequential block protocol. This 2.29-point difference is interpreted as a measured indicator of random-split optimism, not as an exact leakage amount. Because of the small number of folds and high variance, the confidence interval of this difference is wide and includes zero; the effect is therefore reported as a trend-level indicator rather than a statistically established quantity, and the same direction was observed for XGBoost (1.07 points). Removing Destination Port did not produce a meaningful performance drop, a result consistent with reliance on other traffic-pattern features but not proof of feature substitution. Attack-type analysis exposed the limitation of average metrics: DDoS and PortScan reached 99.52% and 99.02% F1, whereas Bot remained difficult with 4.66% F1. SHAP and LIME showed limited agreement, with Jaccard = 0.20 and RBO = 0.36, and did not provide a stable shared ranking of feature importance. Subgroup analyses also showed that explanation agreement could vary with sample composition.

Conclusion—The findings show that high benchmark scores in network intrusion detection should be interpreted together with split design, attack-type behavior and explanation reliability. XAI is most useful here as a complementary diagnostic mechanism that reveals the limits, dataset dependence and methodological sensitivity of reported performance. Future work should validate the protocol on timestamped traffic captures and additional operational datasets.

Anahtar Kelimeler

• Evaluation design
• Explainable artificial intelligence
• LIME
• Network intrusion detection
• SHAP

Ağ saldırısı tespitinde değerlendirme ve açıklama güvenilirliği: Yüksek başarımın ve SHAP–LIME açıklamalarının birlikte sorgulanması

Öz

Arka Plan—Makine öğrenmesi tabanlı ağ saldırısı tespit sistemlerinde yaygın kıyaslama veri kümeleri üzerinde çoğu kez %99’u aşan doğruluk ve F1-skorları raporlanmaktadır. Bu değerler algoritmaları karşılaştırmak için yararlı olsa da her zaman gerçek operasyonel tespit kapasitesini göstermeyebilir. Değerlendirme tasarımı, tekrar eden trafik örüntüleri, sınıf dengesizliği ve veri kümesine özgü artefaktlar özellikle CICIDS2017 gibi veri kümelerinde başarımın olduğundan yüksek görünmesine neden olabilir.

Amaç—Bu çalışmanın amacı, açıklanabilir yapay zekâyı yüksek model başarımını meşrulaştıran nihai bir araç olarak değil, raporlanan başarımın kaynağını ve sınırlarını sorgulayan bir teşhis katmanı olarak kullanmaktır. Bu doğrultuda bölme stratejisinin, olası statik port bilgisinin ve açıklama tutarlılığının ağ saldırısı tespit sonuçlarının yorumlanmasını nasıl etkilediği incelenmiştir.

Yöntem—Kalite kontrol sonrasında CICIDS2017 MachineLearningCVE dosyalarından 2,519,994 ağ akışı elde edilmiştir; bu akışların %83.1’i normal, %16.9’u saldırıdır. CSV dosyalarında açık zaman damgası bulunmadığından çalışma kesin bir kronolojik değerlendirme iddiası taşımamakta olup bunun yerine satır sırasına dayalı gün-içi ardışık blok protokolünü tabakalı rastgele bölmeye göre daha temkinli bir alternatif olarak kullanmaktadır. Bölme stratejisi ile Destination Port özniteliğinin dahil edilme ve çıkarılma durumu 2×2 faktöriyel tasarım altında karşılaştırılmıştır. Ağaç tabanlı sınıflandırıcılar olarak Rastgele Orman, Ekstra Ağaçlar ve XGBoost değerlendirilmiştir. SHAP ve LIME açıklamaları sıra korelasyonları, Jaccard örtüşmesi, Rank-Biased Overlap, kararlılık ve sadakat analizleriyle incelenmiş olup aynı teşhis çerçevesi UNSW-NB15 üzerinde yeniden sınanmıştır.

Bulgular—Rastgele Orman modelinde F1-skoru rastgele bölmede %99.78 iken gün-içi ardışık blok protokolünde %97.49’a düşmüştür. Bu 2.29 puanlık fark kesin bir veri sızıntısı miktarı olarak değil, rastgele bölme kaynaklı ölçülen bir iyimserlik göstergesi olarak yorumlanmıştır. Düşük kat sayısı ve yüksek varyans nedeniyle bu farkın güven aralığı geniştir ve sıfırı içermektedir; bu nedenle etki istatistiksel olarak kanıtlanmış bir nicelik değil, eğilim düzeyinde bir gösterge olarak raporlanmakta olup aynı yön XGBoost’ta da gözlenmiştir (1.07 puan). Destination Port özniteliğinin çıkarılması anlamlı bir performans düşüşü üretmemiştir; bu bulgu diğer trafik özniteliklerinin kullanılabilmesiyle uyumludur, ancak hangi özniteliklerin port bilgisinin yerini aldığını kanıtlamaz. Saldırı türü bazlı analiz ortalama metriklerin sınırlılığını ortaya koymuştur: DDoS ve PortScan sırasıyla %99.52 ve %99.02 F1 değerlerine ulaşırken Bot sınıfı %4.66 F1 ile belirgin biçimde zor kalmıştır. SHAP ve LIME sınırlı uyum göstermiş, Jaccard = 0.20 ve RBO = 0.36 değerleriyle güvenilir ortak bir önem sıralaması üretmemiştir. Alt grup analizleri, açıklama uyumunun örneklem bileşimine göre değişebildiğini de göstermiştir.

Sonuç—Bulgular, ağ saldırısı tespitinde yüksek kıyaslama skorlarının bölme tasarımı, saldırı türü davranışı ve açıklama güvenilirliğiyle birlikte yorumlanması gerektiğini göstermektedir. XAI bu bağlamda başarıyı doğrulayan nihai kanıt değil, raporlanan sonuçların sınırlarını, veri kümesine bağımlı yönlerini ve yöntemsel duyarlılığını görünür kılan tamamlayıcı bir teşhis mekanizmasıdır. Gelecek çalışmalarda zaman damgalı trafik kayıtları ve farklı operasyonel veri kümeleri üzerinde doğrulama yapılması önerilmektedir.

Anahtar Kelimeler

• Değerlendirme tasarımı
• Açıklanabilir yapay zekâ
• LIME
• Ağ saldırısı tespiti
• SHAP

Kaynakça

1. R. Sommer, V. Paxson, "Outside the closed world: On using machine learning for network intrusion detection", 2010 IEEE Symposium on Security and Privacy, Oakland, CA, USA, 16-19 May 2010, 305-316. https://doi.org/10.1109/SP.2010.25.
2. A. Khraisat, I. Gondal, P. Vamplew, J. Kamruzzaman, "Survey of intrusion detection systems: Techniques, datasets and challenges", Cybersecurity, 2(1), 20, 2019. https://doi.org/10.1186/s42400-019-0038-7.
3. M. Ring, S. Wunderlich, D. Scheuring, D. Landes, A. Hotho, "A survey of network-based intrusion detection data sets", Computers & Security, 86, 147-167, 2019. https://doi.org/10.1016/j.cose.2019.06.005.
4. D. Arp, E. Quiring, F. Pendlebury, A. Warnecke, F. Pierazzi, C. Wressnegger, L. Cavallaro, K. Rieck, "Dos and don’ts of machine learning in computer security", Proceedings of the 31st USENIX Security Symposium, Boston, MA, USA, 10-12 August 2022, 3971-3988.
5. I. Sharafaldin, A. H. Lashkari, A. A. Ghorbani, "Toward generating a new intrusion detection dataset and intrusion traffic characterization", Proceedings of the 4th International Conference on Information Systems Security and Privacy (ICISSP), Funchal, Portugal, 22-24 January 2018, 108-116. https://doi.org/10.5220/0006639801080116.
6. Z. K. Maseer, R. Yusof, N. Bahaman, S. A. Mostafa, C. F. M. Foozy, "Benchmarking of machine learning for anomaly based intrusion detection systems in the CICIDS2017 dataset", IEEE Access, 9, 22351-22370, 2021. https://doi.org/10.1109/ACCESS.2021.3056614.
7. Kurniabudi, D. Stiawan, Darmawijoyo, M. Y. B. Idris, A. M. Bamhdi, R. Budiarto, "CICIDS-2017 dataset feature analysis with information gain for anomaly detection", IEEE Access, 8, 132911-132921, 2020. https://doi.org/10.1109/ACCESS.2020.3009843.
8. G. Engelen, V. Rimmer, W. Joosen, "Troubleshooting an intrusion detection dataset: The CICIDS2017 case study", Proceedings of the 42nd IEEE Symposium on Security and Privacy (S and P), ELECTR NETWORK, 27 May 2021, 7-12. https://doi.org/10.1109/SPW53761.2021.00009.

9. A. Rosay, E. Cheval, F. Carlier, P. Leroux, "Network intrusion detection: A comprehensive analysis of CIC-IDS2017", Proceedings of the 8th International Conference on Information Systems Security and Privacy (ICISSP), ELECTR NETWORK, 09-11 February 2022, 25-36. https://doi.org/10.5220/0010774000003120.
10. G. Apruzzese, L. Pajola, M. Conti, "The cross-evaluation of machine learning-based network intrusion detection systems", IEEE Transactions on Network and Service Management, 19(4), 5152-5169, 2022. https://doi.org/10.1109/TNSM.2022.3157344.
11. M. Cantone, C. Marrocco, A. Bria, "Machine learning in network intrusion detection: A cross-dataset generalization study", IEEE Access, 12, 144489-144508, 2024. https://doi.org/10.1109/ACCESS.2024.3472907.
12. Z. Moczkodan, H. Ragab, "Do Transformers actually help intrusion detection? A temporal sequence evaluation on CIC-IDS2017", arXiv, 2026. https://doi.org/10.48550/arXiv.2606.11098.
13. A. B. Arrieta, et al., "Explainable artificial intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI", Information Fusion, 58, 82-115, 2020. https://doi.org/10.1016/j.inffus.2019.12.012.
14. S. Neupane, J. Ables, W. Anderson, S. Mittal, S. Rahimi, I. Banicescu, M. Seale, "Explainable intrusion detection systems (X-IDS): A survey of current methods, challenges, and opportunities", IEEE Access, 10, 112392-112415, 2022. https://doi.org/10.1109/ACCESS.2022.3216617.
15. A. Nadeem, D. Vos, C. Cao, L. Pajola, S. Dieck, R. Baumgartner, S. Verwer, "SoK: Explainable machine learning for computer security applications", Proceedings of the 8th IEEE European Symposium on Security and Privacy (EuroS and P), TU Delft, ECHO, Delft, Netherlands, 03-07 July 2023, 221-240. https://doi.org/10.1109/EuroSP57164.2023.00022.
16. L. S. Shapley, "A value for n-person games", Contributions to the Theory of Games II, H. W. Kuhn, A. W. Tucker, Eds., Princeton, USA, Princeton University Press, 1953, 307-318. https://doi.org/10.1515/9781400881970-018.
17. S. M. Lundberg, S.-I. Lee, "A unified approach to interpreting model predictions", Proceedings of the 31st Annual Conference on Neural Information Processing Systems (NIPS), Long Beach, CA, USA, 04-09 December 2017, 4765-4774.
18. M. T. Ribeiro, S. Singh, C. Guestrin, "‘Why should I trust you?’: Explaining the predictions of any classifier", Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, San Francisco, California, USA, 13-17 August 2016, 1135-1144. https://doi.org/10.1145/2939672.29397.
19. D. Slack, S. Hilgard, E. Jia, S. Singh, H. Lakkaraju, "Fooling LIME and SHAP: Adversarial attacks on post hoc explanation methods", Proceedings of the 3rd AAAI/ACM Conference on AI, Ethics, and Society (AIES), New York, NY, USA, 07-08 February 2020, 180-186. https://doi.org/10.1145/3375627.3375830.
20. M. Nauta, J. Trienes, S. Pathak, E. Nguyen, M. Peters, Y. Schmitt, J. Schlötterer, M. van Keulen, C. Seifert, "From anecdotal evidence to quantitative evaluation methods: A systematic review on evaluating explainable AI", ACM Computing Surveys, 55(13s), 295, 2023. https://doi.org/10.1145/3583558.
21. A. Hedström, L. Weber, D. Krakowczyk, D. Bareeva, F. Motzkus, W. Samek, S. Lapuschkin, M. M.-C. Höhne, "Quantus: An explainable AI toolkit for responsible evaluation of neural network explanations and beyond", Journal of Machine Learning Research, 24(34), 1-11, 2023.
22. M. Yildirim, F. Yıldırım Okay, S. Özdemir, "A comparative analysis on the reliability of interpretable machine learning", Pamukkale Üniversitesi Mühendislik Bilimleri Dergisi, 30(4), 494-508, 2024. https://izlik.org/JA28ED23FM.
23. M. Wang, K. Zheng, Y. Yang, X. Wang, "An explainable machine learning framework for intrusion detection systems", IEEE Access, 8, 73127-73141, 2020. https://doi.org/10.1109/ACCESS.2020.2988359.
24. S. Patil, V. Varadarajan, S. M. Mazhar, M. Siddiqui, A. Sahibzada, N. Ahmed, O. Sinha, S. Kumar, K. Shaw, K. Kotecha, "Explainable artificial intelligence for intrusion detection system", Electronics, 11(19), 3079, 2022. https://doi.org/10.3390/electronics1119307.
25. D. Gaspar, P. Silva, C. Silva, "Explainable AI for intrusion detection systems: LIME and SHAP applicability on multi-layer perceptron", IEEE Access, 12, 30164-30175, 2024. https://doi.org/10.1109/ACCESS.2024.3368377.
26. A. Kumar, V. L. L. Thing, "Evaluating the explainability of state-of-the-art machine learning-based online network intrusion detection systems", arXiv, 2024. https://doi.org/10.48550/arXiv.2408.14040.
27. R. Kalakoti, R. Vaarandi, H. Bahşi, S. Nõmm, "Evaluating explainable AI for deep learning-based network intrusion detection system alert classification", Proceedings of the 11th International Conference on Information Systems Security and Privacy (ICISSP), Porto, Portugal, 20-22 February 2025, 47-58. https://doi.org/10.5220/0013180700003899.
28. M. Alquliti, E. Karafili, B. Kang, "Evaluating explanation quality in X-IDS using feature alignment metrics", Proceedings of the 20th International Conference on Availability Reliability and Security-ARES-Annual, Gent, Belgium, 11-14 August 2025, 55-72. https://doi.org/10.1007/978-3-032-00630-1_4.
29. N. Moustafa, J. Slay, "UNSW-NB15: A comprehensive data set for network intrusion detection systems", 2Proceedings of the Military Communications and Information Systems Conference (MILCIS), Canberra, Australia, 10-12 November 2015.
30. L. Breiman, "Random forests", Machine Learning, 45(1), 5-32, 2001. https://doi.org/10.1023/A:1010933404324.
31. P. Geurts, D. Ernst, L. Wehenkel, "Extremely randomized trees", Machine Learning, 63(1), 3-42, 2006. https://doi.org/10.1007/s10994-006-6226-1.
32. T. Chen, C. Guestrin, "XGBoost: A scalable tree boosting system", Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (KDD), San Francisco, CA, USA, 13-17 August 2016, 785-794. https://doi.org/10.1145/2939672.2939785.
33. N. Rastogi, S. Pant, D. Dhanuka, A. Saxena, P. Mairal, "Too much to trust? Measuring the security and cognitive impacts of explainability in AI-driven SOCs", arXiv, 2025. https://doi.org/10.48550/arXiv.2503.02065.