Use of the Support Vector Regression in Medical Data Analysis

Abstract

This study was considered as an application for the use of support vector machines (SVM), which is frequently used in many fields, in medical research and a prediction model was created with support vector machine regression (SVR) using medical study data. For determining the appropriate model and estimating the best parameter, estimation models were obtained with linear regression, SVR, adjusted SVR that provide flexibility in terms of maximum error and penalty cost, and SVR using kernel functions. Mean Square Error (MSE), Root Mean Square Error (RMSE), Mean Absolute Error (MAE), and Mean Absolute Percentage Error (MAPE) values were calculated to evaluate the performance of the models. The obtained results showed that the SVR model using the radial kernel function provided the best prediction among the predictive models.

Keywords

• Support vector regression
• Medical data
• Occipitocervical angle
• Cervical vertical translation

Destek Vektör Regresyonunun Tıbbi Veri Analizlerinde Kullanımı

Abstract

Bu çalışma, birçok alanda sıklıkla kullanılan destek vektör makinelerinin (SVM) tıbbi araştırmalarda kullanımına yönelik bir uygulama olarak düşünülmüş ve tıbbi çalışma verileri kullanılarak destek vektör makine regresyonu (SVR) ile bir tahmin modeli oluşturulmuştur. Uygun modelin belirlenmesi ve en iyi parametrenin tahmin edilmesi için tahmin modelleri doğrusal regresyon, SVR, maksimum hata ve hata maliyeti açısından esneklik sağlayan düzeltilmiş SVR ve kernel fonksiyonları ile SVR ile elde edilmiştir. Modellerin performansını değerlendirmek için Ortalama Kare Hatası (MSE), Kök Ortalama Kare Hatası (RMSE), Ortalama Mutlak Hata (MAE) ve Ortalama Mutlak Yüzde Hatası (MAPE) değerleri hesaplanmıştır. Elde edilen sonuçlar, radyal kernel fonksiyonunu kullanan SVR modelinin tahmin modelleri arasında en iyi tahmini sağladığını göstermiştir.

Keywords

• Destek vektör regresyonu
• Medikal data
• Oksipitoservikal açı
• Servikal vertikal translasyon mesafesi

References

1. 1. Açıkkar M, Sivrikaya O. Yıkanmış Türk Linyit Kömürlerinin Üst Isıl Değerinin Destek Vektör Regresyonu ile Tahmini. Avrupa Bilim ve Teknoloji Dergisi. 2020;18:16-24.
2. 2. Arat MM. Destek Vektör Makineleri Üzerine Bir Çalışma. Hacettepe Üniversitesi, Fen Bilimleri Enstitüsü, İstatistik Anabilim Dalı, Yüksek lisans tezi. Ankara, 2014.
3. 3. Aksoy E. Servikal Dizilim Bozukluğu İle Kronik Boyun Ağrısı ve Tetik Nokta Arasındaki İlişki., İstanbul Üniversitesi Cerrahpaşa Tıp Fakültesi Fiziksel Tıp ve Rehabilitasyon Anabilim Dalı, Uzmanlık Tezi. İstanbul, 2015.
4. 4. Arslan A, Şen B. Detection of non-coding RNA's with optimized support vector machines. In 2015 23rd Signal Processing and Communications Applications Conference (SIU). 2015, May; pp. 1668-1671. IEEE.
5. 5. Baydaroğlu Ö, Koçak K. SVR-based prediction of evaporation combined with chaotic approach. Journal of Hydrology. 2014;508, 356–363.
6. 6. Bergeron C, Cheriet F, Ronsky J, et al. Prediction of anterior scoliotic spinal curve from trunk surface using support vector regression. Engineering applications of artificial intelligence. 2005; 18(8): 973-983.
7. 7. Bilişik MT. Destek Vektör Makinesi, Çoklu Regresyon Ve Doğrusal Olmayan Programlama İle Perakendecilik Sektöründe Gelir Yönetimi İçin Dinamik Fiyatlandırma. XI. Üretim Ara trmalar Sempozyumu, 23-24 Haziran 2011;785-799.
8. 8. Chang CY, Chang CW, Zheng JY, et al. Physiological emotion analysis using support vector regression. Neurocomputing. 2013; 122, 79-87.

9. 9. Çataloluk H, Kesler M. A diagnostic software tool for skin diseases with basic and weighted K-NN. In 2012 international symposium on innovations in intelligent systems and applications. 2012, July; pp. 1-4. IEEE.
10. 10. Çoban F, Demir L. Yapay Sinir Ağları ve Destek Vektör Regresyonu ile Talep Tahmini: Gıda İşletmesinde Bir Uygulama. Dokuz Eylül Üniversitesi Mühendislik Fakültesi Fen ve Mühendislik Dergisi. 2021;23(67):327-338.
11. 11. Çomak, E. Destek vektör makinelerinin etkin eğitimi için yeni yaklaşımlar. Yayınlanmamış Selçuk Üniversitesi, Fen Bilimleri Enstitüsü, Elektrik Elektronik Mühendisliği Anabilim Dalı, Doktora Tezi. Konya, 2008.
12. 12. Di Bono MG, Zorzi M. Decoding Cognitive States from fMRI Data Using Support Vector Regression. PsychNology Journal. 2008;6(2).
13. 13. Georga EI, Protopappas VC, Ardigo D, et al. Multivariate prediction of subcutaneous glucose concentration in type 1 diabetes patients based on support vector regression. IEEE journal of biomedical and health informatics. 2012; 17(1): 71-81.
14. 14. Georga EI, Protopappas VC, Ardigo D. et al. A glucose model based on support vector regression for the prediction of hypoglycemic events under free-living conditions. Diabetes technology & therapeutics. 2013;15(8):634-643.
15. 15. Goli S, Mahjub H, Faradmal J, et al. Survival prediction and feature selection in patients with breast cancer using support vector regression. Computational and mathematical methods in medicine, 2016;1-13.
16. 16. Guo X, Zhou W, Shi B, et al. An efficient multiple kernel support vector regression model for assessing dry weight of hemodialysis patients. Current Bioinformatics. 2021;16(2): 284-293.
17. 17. Güner N, Çomak E. Mühendislik öğrencilerinin matematik I derslerindeki başarısının destek vektör makineleri kullanılarak tahmin edilmesi. Pamukkale Üniversitesi Mühendislik Bilimleri Dergisi. 2011;17(2): 87-96.
18. 18. Hamdi T, Ali J B, Di Costanzo V. et al. Accurate prediction of continuous blood glucose based on support vector regression and differential evolution algorithm. Biocybernetics and Biomedical Engineering. 2018;38(2):362-372.
19. 19. Han J, Jia Y, Zha C. et al. Automatic bone age assessment combined with transfer learning and support vector regression. In 2018 9th International Conference on Information Technology in Medicine and Education (ITME). 2018, October; pp. 61-66. IEEE.
20. 20. https://www.saedsayad.com/support_vector_machine_reg.htm (Last access date: 10.09.2021).
21. 21. Jakkula V. Tutorial on support vector machine (svm). School of EECS, Washington State University. 2006;37.
22. 22. Karal Ö. Compression of ECG data by support vector regression method. J. Fac. Eng. Arch. Gazi Univ. 2018;1:743-756.
23. 23. Kaya E, Bulun M, Arslan A. Tıpta Veri Ambarları Oluşturma ve Veri Madenciliği Uygulamaları. Akademik Bilişim. Adana, 2003.
24. 24. Kocamaz K. Hastane Yönetim Bilgi Sistemlerinde Veri Madenciliği, Selçuk Üniversitesi Sosyal Bilimler Enstitüsü, Yüksek Lisans Tezi. Konya, 2007.
25. 25. Kuzu BS, Yakut SG. Destek Vektör Makineleri Yardımıyla İmalat Sanayisinde Mali Başarısızlık Tahminlerinin Teknoloji Yoğunluğuna göre İncelenmesi. Osmaniye Korkut Ata Üniversitesi İktisadi ve İdari Bilimler Fakültesi Dergisi. 2020;4(2): 36-54.
26. 26. McGregor M. The significance of certain measurements of the skull in the diagnosis of basilar impression. Br J Radiol. 1948;21(244):171-81.
27. 27. Alan M. Tıbbi veriler üzerine birliktelik kuralları madenciliği. Cumhuriyet Üniversitesi İktisadi ve İdari Bilimler Dergisi. 2019;20(1):410-419.
28. 28. Meral G, Saraçlı S. Destek Vektör Makineleri ve Türkiye’deki Enerji Santrallerinde Doğal Gaz Tüketimi Üzerine Bir Uygulama. Süleyman Demirel Üniversitesi Fen Bilimleri Enstitüsü Dergisi. 2020;24(2):411-418.
29. 29. Meyer D, Wien FT. Support vector machines. The Interface to libsvm in package e1071. 2015;28.
30. 30. Park J, Kim KY, Kwon O. Comparison of machine learning algorithms to predict psychological wellness indices for ubiquitous healthcare system design. In Proceedings of the 2014 International Conference on Innovative Design and Manufacturing (ICIDM). 2014, August. pp. 263-269. IEEE.
31. 31. Pisner DA. Schnyer DM. Support vector machine. In Machine Learning. Academic Press.2020; 101-121.
32. 32. Riaz N, Shanker P, Wiersma R. et al. Predicting respiratory tumor motion with multi-dimensional adaptive filters and support vector regression. Physics in Medicine & Biology. 2009;54(19):5735.
33. 33. Sałat R, Sałat K. Modeling analgesic drug interactions using support vector regression: a new approach to isobolographic analysis. Journal of pharmacological and toxicological methods. 2015;71: 95-102.
34. 34. Saleem TJ, Chishti MA. Exploring the applications of machine learning in healthcare. International Journal of Sensors Wireless Communications and Control. 2020; 10(4): 458-472.
35. 35. Scheer JK, Tang JA, Smith JS, Acosta Jr FL, Protopsaltis TS, Blondel B, et al. Cervical spine alignment, sagittal deformity, and clinical implications: a review. J Neurosurg: Spine. 2013;19(2):141-59.
36. 36. Seo ST, Lee IH, Son CS. et al. Support vector regression-based model to analyze prognosis of infants with congenital muscular torticollis. Healthcare informatics research. 2010;16(4):224-230.
37. 37. Smola AJ. Schölkopf BA. Tutorial on Support Vector Regression, Statistics and Computing. 2004;14:199- 222.
38. 38. Suykens JA, Vandewalle J. Least squares support vector machine classifiers. Neural processing letters. 1999;9(3):293-300.
39. 39. Tunçeli, M. Cervical Lordoz Derecesini belirlemede kullanılan morfometrik ölçüm yöntemlerinin karşılaştırmalı olarak incelenmesi. Çukurova Üniversitesi Sağlık Bilimleri Enstitüsü Anatomi Anabilim Dalı, Yüksek lisans tezi. Adana, 2021.
40. 40. Vapnik V, Golowich S, Smola A. Support vector method for function approximation, regression estimation, and signal processing. Advances in Neural Information Processing Systems. 1997; 9: 281–287.
41. 41. Vapnik V. Estimation of Dependences Based on Empirical Data. Springer Verlag. 1982.
42. 42. Wang H, Xu D. Parameter selection method for support vector regression based on adaptive fusion of the mixed kernel function. Journal of Control Science and Engineering. 2017.
43. 42. Yakut Y, Yakut E, Yavuz S. Yapay Sinir Ağlari Ve Destek Vektör Makineleri Yöntemleriyle Borsa Endeksi Tahmini. Süleyman Demirel Üniversitesi İktisadi ve İdari Bilimler Fakültesi Dergisi. 2014;19(1):139-157.
44. 43. Zhang Y, Kimberg DY, Coslett HB. et al. Multivariate lesion‐symptom mapping using support vector regression. Human brain mapping. 2014;35(12):5861-5876.
45. 44. Zhang Y, Kimberg DY, Coslett HB. et al. Support vector regression based multivariate lesion-symptom mapping. In 2014 36th Annual International Conference of the IEEE Engineering in Medicine and Biology Society. 2014, August; pp. 5599-5602. IEEE.