Çift üstel düzeltme, ARIMA ve yapay sinir ağları ile kısa mesaj miktarının tahmini

Öz

Günümüzde hala farklı sektörlerde ve bireyler arasında yaygın olarak kullanılan ve mobil iletişimde önemli bir yere sahip olan kısa mesaj servisi, çeşitli sektörlerdeki işletmelere operasyonel verimlilik, pazarlama ve müşteri hizmetlerine yönelik geliştirilen stratejiler gibi çok farklı alanlarda faydalar üretmektedir. Bu çalışmada, çift üstel düzeltme, ARIMA ve yapay sinir ağları kullanılarak kısa mesaj servisi için miktar tahmini ve ortalama mutlak yüzde hata ve ortalama kare hatası kullanılarak elde edilen tahminlerin karşılaştırılması yapılmıştır. Çalışmada, yapay sinir ağları en yüksek tahmin doğruluğunu vermiş, bunu çift üstel düzeltme yöntemi ve en son olarak ARIMA yöntemi izlemiştir. Tahmin hatalarının tek yönlü ANOVA karşılaştırmaları, yapay sinir ağları ile çift üstel düzeltme yöntemi arasında istatistiksel olarak anlamlı bir fark olduğuna dair yeterli kanıt sağlamamaktadır. Ancak, ARIMA yöntemi her iki yönteme kıyasla önemli ölçüde daha kötü performans göstermektedir. Deneyler sonucunda elde edilen bir diğer bulgu; katman, nöron ve epok (öğrenme döngüsü) sayılarının artmasının yapay sinir ağlarının tahmin performansını genel olarak iyileştirdiği yönündedir. Ayrıca çalışmada, yapay sinir ağının çıktı katmanında kullanılan sigmoid aktivasyon fonksiyonunu düzeltilmiş doğrusal birim, hiperbolik tanjant ve doğrusal fonksiyonlarıyla değiştirilerek yapılan denemeler sonucunda doğrusal fonksiyonunun daha iyi performans gösterdiği görülmüştür.

Anahtar Kelimeler

• Zaman serileri tahmini
• çift üstel düzeltme
• ARIMA
• yapay sinir ağları
• SMS

Forecasting the short message quantity with double exponential smoothing, ARIMA and artificial neural networks

Abstract

The short message service, which is still widely used to this day in different sectors and among individuals and has an important place in mobile communication, provides benefits to businesses in various sectors in many different areas, such as operational efficiency, marketing, and customer service strategies. In this study, double exponential smoothing, ARIMA, and artificial neural networks are used to forecast the short message quantity, and mean absolute percentage error and mean squared error measures are used to compare the forecasts. In this study, the artificial neural networks yield the highest forecast accuracy, followed by double exponential smoothing and, lastly, the ARIMA method. One-way ANOVA comparisons of forecast errors do not provide sufficient evidence to declare a statistically significant difference between artificial neural networks and the double exponential smoothing method. However, ARIMA method performs significantly worse than both. Another finding obtained as a result of the experiments is that increasing the number of layers, neurons, and epochs (learning cycles) improves the forecasting performance of artificial neural networks in general. Additionally, the experiments done by replacing the sigmoid activation function used in the output layer of the neural network with rectified linear unit, hyperbolic tangent, and linear functions showed that the linear function performs better.

Keywords

• Time series forecasting
• double exponential smoothing
• ARIMA
• artificial neural networks
• SMS

References

1. [1] Yapraklı TŞ, Altay Ş. “Mobil anlik mesajlaşma servislerinin kullanimi üzerinde etkili faktörlerin incelenmesi: ardahan üniversitesi öğrencileri üzerinde bir saha araştırması”. Öneri Dergisi, 12(48), 199-216, 2017.
2. [2] GSMA. (t.y.). “Rich Communication Services (RCS)”. https://www.gsma.com/solutions-and-impact/technologies/networks/rcs/ (01.04.2025).
3. [3] Demir L, Akkaş S. “A comparison of sales forecasting methods for a feed company: A case study”. Pamukkale Üniversitesi Mühendislik Bilimleri Dergisi, 24(4), 705-712, 2018.
4. [4] Özden C, Açı Ç. “Makine öğrenmesi yöntemleri ile yaralanmalı trafik kazalarının analizi: Adana örneği”. Pamukkale Üniversitesi Mühendislik Bilimleri Dergisi, 24(2), 266-275, 2018.
5. [5] Erdem F. “Parameter estimation in crystal sugar production with MLR, ANN and ANFIS”. Pamukkale Üniversitesi Mühendislik Bilimleri Dergisi, 28(7), 987-992, 2022.
6. [6] Aydemir E, Karaatlı M, Yılmaz G, Aksoy S. “112 Acil çağrı merkezine gelen çağrı sayılarını belirleyebilmek için bir yapay sinir ağları tahminleme modeli geliştirilmesi”. Pamukkale Üniversitesi Mühendislik Bilimleri Dergisi, 20(5), 145-149, 2014.
7. [7] Zeybel Peköz A, İnkaya T. “Derin öğrenme ile talep tahmini: Bir üçüncü parti lojistik firması için COVID-19 döneminde vaka analizi”. Pamukkale Üniversitesi Mühendislik Bilimleri Dergisi, 29(4), 331-339, 2023.
8. [8] Nikravesh AY, Ajila SA, Lung CH, Ding W. “Mobile network traffic prediction using MLP, MLPWD, and SVM”. 2016 IEEE International Congress on Big Data, SF, USA, 27 Jule-02 July 2016.

9. [9] Siluyele I, Jere S. “Using Box-Jenkins models to forecast mobile cellular subscription”. Open Journal of Statistics, 6(2), 81-90, 2016.
10. [10] Huang CW, Chiang CT, Li Q. “A study of deep learning networks on mobile traffic forecasting”. 2017 IEEE 28th Annual International Symposium on Personal, Indoor, and Mobile Radio Communications, Montreal, Canada, 8-13 October 2017.
11. [11] Alvarado JG, Alvarado AD, Lema, EV. “Time series analysis of telecommunications data using neural networks”. Turkish Journal of Computer and Mathematics Education, 12(14), 2835- 284, 2021.
12. [12] Prajam S, Wechtaisong C, Khan AA. “Applying machine learning approaches for network traffic forecasting”. Indian Journal of Computer Science and Engineering, 13(2), 324-335, 2022.
13. [13] Xie R, Guan X, Cao J, Wang X, Wu H. “HSeq2Seq: Hierarchical graph neural network for accurate mobile traffic forecasting”. Information Sciences, 679, 1-18, 2024.
14. [14] Batool I, Fouda MM, Fadlullah ZM. “Deep learning-based throughput prediction in 5G cellular networks”. 2024 International Conference on Smart Applications, Communications and Networking, Harrisonburg, USA, 28-30 May 2024.
15. [15] Zeng L, Zhang C, Qin P, Zhou Y, Cai Y. “One method for predicting satellite communication terminal service demands based on artificial ıntelligence algorithms”. Applied Sciences, 14, 6019, 2024.
16. [16] Jiang W, Zhang Y, Han H, Huang Z, Li Q, Mu J. “Mobile traffic prediction in consumer applications: A multimodal deep learning approach”. IEEE Transactions on Consumer Electronics, 70(1), 3425-3435, 2024.
17. [17] Türkiye İstatistik Kurumu. “Tüketici Fiyat Endeksi, Aralık 2023”. https://data.tuik.gov.tr/Bulten/Index?p=Tuketici-Fiyat-Endeksi-Aralik-2023-49657 (20.09.2024).
18. [18] Bilgi Teknolojileri ve İletişim Kurumu. “Pazar Verileri”. https://www.btk.gov.tr/pazar-verileri (29.08.2024).
19. [19] Türkiye İstatistik Kurumu. “Ulusal Eğitim İstatistikleri, 2023”. https://data.tuik.gov.tr/Bulten/Index?p=Ulusal-Egitim-Istatistikleri-2023-53444 (20.09.2024).
20. [20] Can U. “Eksik veri probleminin çözümü”. YBS Ansiklopedi, 12(1), 24-60, 2024.
21. [21] Huang G. “Missing data filling method based on linear interpolation and LightGBM”. Journal of Physics: Conference Series, 1754(1), 1-6, 2021.
22. [22] Iranzad R, Liu X. “A review of random forest-based feature selection methods for data science education and applications”. International Journal of Data Science and Analytics, 20(2), 197-211, 2024.
23. [23] Aksu G, Güzeller CO, Eser MT. “The effect of the normalization method used in different sample sizes on the success of artificial neural network model”. International Journal of Assessment Tools in Education, 6(2), 170-192, 2019.
24. [24] Singh D, Singh B. “Feature wise normalization: An effective way of normalizing data”. Pattern Recognition, 122, 108307, 2022.
25. [25] Shalabi L, Shaaban Z. “Normalization as a preprocessing engine for data mining and the approach of preference matrix”. 2006 International Conference on Dependability of Computer Systems, Szklarska Poreba, Poland, 25-27 May 2006.
26. [26] Eesa AS, Arabo W. “A normalization method for backpropagation: A comparative study”. Science Journal of University of Zakho, 5(4), 319, 2017.
27. [27] Hyndman RJ, Koehler AB. “Another look at measures of forecast accuracy”. International Journal of Forecasting, 22(4), 679–688, 2006.
28. [28] Saigal S, Mehrotra D. “Performance Comparison of Time Series Data Using Predictive Data Mining Techniques”. Advances in Information Mining, 4(1), 57-66, 2012.
29. [29] Armstrong JS, Collopy F. “Error measures for generalizing about forecasting methods: Empirical comparisons”. International Journal of Forecasting, 8(1), 69-80, 1992.
30. [30] Zhang G, Patuwo BE, Hu MY. “Forecasting with artificial neural networks: The state of the art”. International Journal of Forecasting, 14(1), 35-62, 1998.
31. [31] Öztürk K, Şahin ME. “Yapay sinir ağları ve yapay zekâ’ya genel bir bakış”. Takvim-i Vekayi, 6(2), 25-36, 2018.
32. [32] Banerjee C, Mukherjee T, Pasiliao EJ. “An empirical study on generalizations of the ReLU activation function”. Proceedings of the ACM Southeast Conference, Kennesaw, GA, USA, 18-20 April 2019.
33. [33] TensorFlow. “tf.keras.activations.sigmoid”. https://www.tensorflow.org/api_docs/python/tf/keras/activations/sigmoid (19.12.2024).
34. [34] Chen Y, Li L, Li W, Guo Q, Du Z, Xu Z. Fundamentals of Neural Networks. Editör: Merken S. AI computing systems: An Application-Driven Perspective, 17-51, Cambridge, USA, Morgan Kaufmann, 2022.
35. [35] Bhujade RK, Asthana S. “An extensive review of ReLU and sigmoid function in multiple hidden layer back propagation neural network model”. International Journal of Applied Engineering and Technology, 5(2), 67-70, 2023.
36. [36] Rasamoelina AD, Adjailia F, Sinčák P. “A review of activation function for artificial neural network”. IEEE 18th World Symposium on Applied Machine Intelligence and Informatics, Herlany, Slovakia, 23-25 January 2020.
37. [37] Sharma S, Sharma S, Athaiya A. “Activation functions in neural networks”. International Journal of Engineering Applied Sciences and Technology, 4(12), 310-316, 2020.
38. [38] Kruskal WH, Wallis WA. “Use of Ranks in One-Criterion Variance Analysis”. Journal of the American Statistical Association, 47(260), 583-621, 1952.
39. [39] Goodwin P. “The Holt–Winters approach to exponential smoothing: 50 years old and going strong”. Foresight: The International Journal of Applied Forecasting, 19, 30-33, 2010.
40. [40] Bergmeir C, Hyndman RJ, Beníte JM. “Bagging exponential smoothing methods using STL decomposition and Box–Cox transformation”. International Journal of Forecasting, 32(2), 303-312, 2016.
41. [41] Billah B, King ML, Snyder RD, Koehler AB. “Exponential smoothing model selection for forecasting”. International Journal of Forecasting, 22(2), 239-247, 2006.
42. [42] Nahmias S, Olsen TL. Production and Operations Analysis. 7th ed. Long Grove, Illinois, USA, Waveland Press, 2015.
43. [43] Peter D, Silvia P. “ARIMA vs. ARIMAX-Which approach is better to analyze and forecast macroeconomic time series”. Proceedings of 30th International Conference Mathematical Methods in Economics, Karviná, Czech Republic, 11-13 September 2012.
44. [44] Mcculloch WS, Pitts WH. “A logical calculus of the ideas immanent in nervous activity”. Bulletin of Mathematical Biophysics, 5, 115-133, 1943.
45. [45] Öztemel E. Yapay Sinir Ağları. 3. Baskı. İstanbul, Türkiye, Papatya Yayıncılık Eğitim, 2012.
46. [46] Uğur A, Kınacı AC. “Yapay zekâ teknikleri ve yapay sinir ağları kullanılarak web sayfalarının sınıflandırılması”. "Türkiye'de İnternet" Konferansı, Ankara, Türkiye, 21-23 Aralık 2006.
47. [47] Arslan B, Ertuğrul İ. “Çoklu regresyon, ARIMA ve yapay sinir ağı yöntemleri ile Türkiye elektrik piyasasında fiyat tahmin ve analizi”. Yönetim ve Ekonomi Araştırmaları Dergisi, 20(1), 331-353, 2022.
48. [48] Yao X. “Evolving artificial neural networks”. Proceedings of the IEEE, 87(9), 1423–1447, 1999.
49. [49] Kingma DP, Ba J. “Adam: A Method for Stochastic Optimization”. arXiv, 2014. https://arxiv.org/pdf/1412.6980.pdf.
50. [50] Pabuccu H, Barbu A. “Feature selection with annealing for forecasting financial time series”. Financial Innovation, 10, 87, 2024.
51. [51] Joseph VR. “Optimal ratio for data splitting”. Statistical Analysis & Data Mining, 15, 531-538, 2022.
52. [52] Ünal T, Çiftçi Ü, Urgan NN. “Bir gizli katmanlı yapay sinir ağlarında optimal nöron sayısının incelenmesi.” Süleyman Demirel University Faculty of Arts and Science Journal of Science, 17(2), 303-325, 2022.
53. [53] Yılmazel Ö, Afşar A, Yılmazel S. “Konut fiyat tahmininde yapay sinir ağları yönteminin kullanılması”. Uluslararası İktisadi ve İdari İncelemeler Dergisi, 20, 285-300, 2018.
54. [54] Kurt R, Karayılmazlar S, İmren E, Çabuk Y. “Yapay sinir ağları ile öngörü modellemesi: Türkiye kâğıt-karton sanayi örneği”. Bartın Orman Fakültesi Dergisi, 19(2), 99-106, 2017.
55. [55] Çılgın C, Ünal C, Alıcı S, Akkol E, Gökşen Y. “Metin sınıflandırmada yapay sinir ağları ile Bitcoin fiyatları ve sosyal medyadaki beklentilerin analizi”. Mehmet Akif Ersoy Üniversitesi Uygulamalı Bilimler Dergisi, 4(1), 106-126, 2020.
56. [56] Dubey SR, Singh SK, Chaudhuri BB. “Activation functions in deep learning: A comprehensive survey and benchmark”. Neurocomputing, 503, 92-108, 2022.
57. [57] Torkul O, Kor E, Şişci M. “Tedarik zincirinde hibrit talep tahmin modeli önerisi: çelik sektörü uygulaması”. Journal of Intelligent Systems: Theory and Applications, 7(2), 66-80, 2024.
58. [58] Algorabi Ö, Namlı E. “Banka telepazarlama başarısının tahmini için bir birleşik makine öğrenme tabanlı karar destek modeli”. Verimlilik Dergisi (1), 94-109, 2022.