Örtüşme ve Deforme Durumlarında Kapsül Ağ ile Evrişimsel Sinir Ağ Sınıflama Performanslarının Karşılaştırılması

Year 2020, , 105 - 111, 30.12.2020

Kazım Fırıldak , Muhammed Fatih Talu

https://doi.org/10.46810/tdfd.755233

Abstract

Evrişimsel sinir ağı (ESA) ve Kapsül Ağ (KA) önemli derin öğrenme mimarileridir. Bu makalede, ESA ve KA mimarilerinin Mnist ve Fashion mnist veri kümelerindeki örtüşme ve deformasyon durumlarında sınıflama doğrulukları incelenmiştir. Bu veri kümelerinin her bir test verisi, rastgele alınan 7x7 lik blokların iki, üç ve dört tanesinin kendi aralarından yer değişmesiyle deforme edilmiştir. Bunun yanında veri kümelerine ait farklı sınıftaki veriler birbirilerini kısmi olarak örtecek şekilde test veri kümeleri oluşturulmuştur. Yapılan deneysel sonuçlarda deformasyon durumunda ESA’nın sınıflama doğruluğunun Mnist veri kümesi için %5 ila 13.5, Fashion mnist için %7.1 ila %25.4 oranında azaldığı, KA da ise Mnist veri kümesi için %31 ila %43, Fashion mnist için %34.7 ila %53.2 oranında azaldığı gözlemlenmiştir. Bu durum ESA mimarisinin, deforme edilmiş test kümelerinde KA’ ya göre yüksek doğrulukta sınıflama yaptığı gösterilmiştir. Bunun yanında KA’ nın deforme edilen sahte verilere karşı duyarlılığı ve sınıflama başarımına tepkisi ESA’ya göre daha doğru olduğu görülmüştür. Deforme durumlarının önemsenmediği uygulamalarda ESA’nın, deforme durumuna hassasiyet gösterecek güvenlik uygulamalarında KA kullanılması sonucuna varılmıştır. Örtüşme durumlarında ise ESA’nın sınıflama doğruluğu Mnist için %63, Fashion Mnist için % 58, KA ise doğruluk oranı Mnist için %88, Fashion Mnist için %81 olarak elde edilmiştir. Bu durum örtüşme durumlarında KA’ nın ESA’ya göre daha yüksek sınıflama doğruluğuna ulaştığı gözlemlenmiştir.

Keywords

Evrişimsel Sinir Ağ, Kapsül Ağ, Evrişimsel Sinir Ağı ile Kapsül Ağın Karşılaştırılması

References

• 1. Bishop CM (2006) Pattern Recognition and Machine Learning. Springer, New York.
• 2. Szegedy C, Wei Liu, Yangqing Jia, Sermanet P, Reed S, Anguelov D, Erhan D, Vanhoucke V, Rabinovich A (2015) Going deeper with convolutions. In: 2015 IEEE Conf. Comput. Vis. Pattern Recognit. IEEE, pp 1–9.
• 3. İnternet (2019) Image.net. http://www.image-net.org. Accessed 20 Dec 2019.
• 4. Krizhevsky A, Hinton GE (2012) ImageNet Classification with Deep Convolutional Neural Networks. Adv Neural Inf Process Syst 1907–1105:1–9.
• 5. Firildak K, Talu MF (2019) Evrişimsel Sinir Ağlarında Kullanılan Transfer Öğrenme Yaklaşımlarının İncelenmesi. Bilgi Bilim 4:88–95.
• 6. Şengör, Abdülkadir; Yaman, Akbulut; Yanhui, Guo; Varun B (2017) Classification of amyotrophic lateral sclerosis disease based on convolutional neural network and reinforcement sample learning algorithm. Heal Inf Sci Syst. https://doi.org/https://doi.org/10.1007/s13755-017-0029-6.
• 7. Hinton G, Sabour S, Frosst N (2018) Matrix capsules with EM routing. 6th Int. Conf. Learn. Represent. ICLR 2018 - Conf. Track Proc.
• 8. Sabour S, Frosst N, Hinton GE (2017) Dynamic routing between capsules. Adv Neural Inf Process Syst 2017-Decem:3857–3867.
• 9. Jeong T, Lee Y, Kim H (2019) Ladder Capsule Network. Proc 36th Int Conf Mach Learn 3071--3079.
• 10. Heinsen FA (2019) An Algorithm for Routing Capsules in All Domains.
• 11. Anupama MA, Sowmya V, Soman KP (2019) Breast cancer classification using capsule network with preprocessed histology images. Proc 2019 IEEE Int Conf Commun Signal Process ICCSP 2019 143–147.
• 12. Afshar P, Mohammadi A, Plataniotis KN (2018) Brain Tumor Type Classification via Capsule Networks. Proc - Int Conf Image Process ICIP 3129–3133.
• 13. Jiménez-Sánchez A, Albarqouni S, Mateus D (2018) Capsule Networks Against Medical Imaging Data Challenges. pp 150–160.
• 14. Saqur R, Vivona S (2018) CapsGAN: Using Dynamic Routing for Generative Adversarial Networks.
• 15. Beser F, Kizrak MA, Bolat B, Yildirim T (2018) Recognition of sign language using capsule networks. 26th IEEE Signal Process Commun Appl Conf SIU 2018 1–4.
• 16. Krizhevsky A, Hinton GE (2009) Learning multiple layers of features from tiny images. University of Toronto.
• 17. Xi E, Bing S, Jin Y (2017) Capsule Network Performance on Complex Data. 10707:1–7.
• 18. Bengio Y, Haffner P (1998) Gradient-Based Learning Applied to Document Recognition. 86.
• 19. Xiao H, Rasul K, Vollgraf R (2017) Fashion-MNIST: a Novel Image Dataset for Benchmarking Machine Learning Algorithms.
• 20. Greff K, Rasmus A, Berglund M, Hao TH, Schmidhuber J, Valpola H (2016) Tagger: Deep Unsupervised Perceptual Grouping.