Derin Öğrenme ve Yapay Sinir Ağı Modelleri Üzerine Bir İnceleme

Year 2024, Volume: 14 Issue: 1, 27 - 38, 30.01.2024

Ercan Akın , Mustafa Ergin Şahin

Abstract

Makine öğrenmesinin alt kümelerinden olan derin öğrenme, son zamanlarda gelişen teknolojiye ayak uydurmak için geliştirilen yapay zekâ uygulamalarının temelini oluşturmaktadır. Yapay zekâ ile çözüm aranan birçok problemde derin öğrenme yöntemleri kullanılmış ve birçok derin öğrenme yaklaşımı ortaya çıkartılmıştır. Görüntülerin işlenmesinde, ses tanımlamalarında, nesne tespitlerinde; mühendislik uygulamaları, ticari faaliyetler ve istatiksel birçok çalışmaya kaynak oluşturan verilerin işlenmesinde, medikal uygulama ve doğal dil işleme gibi birçok alanda kullanılmış ve kullanılmaya devam edilmektedir. Günümüz şartlarında teknolojiye paralel olarak veriler giderek artmaktadır. Bu artan veri havuzu birçok kişi ve firmalar için inanılmaz derecede önem arz etmektedir. Google, Apple, Baidu, Tesla, Mercedes, Facebook ve Microsoft gibi birçok büyük firma bu verileri işlemek için bu konu üzerinde çalışmalar yürütmekte ve uygulamalarına derin öğrenmeyi entegre etmektedir. Teknoloji yarışı ve pazarlama stratejileri sayesinde günümüzde önemli bir noktaya gelen yapay sinir ağları modellemeleri ve derin öğrenme konusu, konumuza temel oluşturmaktadır. Bu çalışmada derin öğrenmenin tarihçesi, çalışma prensibi, uygulama alanları ve bu uygulama alanlarında kullanılan yapay sinir ağları modelleri hakkında bilgi verilmiş ve son bölümde güncel bazı uygulamalardan bahsedilmiştir.

Keywords

derin öğrenme, yapay zeka, makine öğrenmesi, yapay sinir ağları

References

• [1] M. Copeland, “What’s the difference between artificial intelligence, machine learning and deep learning.”, 2016. https://blogs.nvidia.com/blog/2016/07/29/whats-difference-artificial-intelligence-machine-learning-deep-learning-ai/ (erişim 15 Ağustos 2022).
• [2] L. Deng ve D. Yu, “Deep learning: Methods and applications”, Found. Trends Signal Process., c. 7, sayı 3–4, ss. 197–387, 2013.
• [3] A. A. Süzen ve K. Kayaalp, Derin Öğrenme ve Türkiye’deki Uygulamaları, sayı September. 2018.
• [4] J. Fürnkranz, “Separate-and-Conquer Rule Learning”, ss. 3–54, 1999.
• [5] Y. Lecun, Y. Bengio, ve G. Hinton, “Deep learning”, Nature, c. 521, sayı 7553, ss. 436–444, 2015.
• [6] W. S. Mcculloch ve W. Pitts, “A logical calculus of the ideas immanent in nervous activity”, Adv. Intell. Syst. Comput., c. 867, ss. 786–798, 1943.
• [7] D. Hubel ve T. Wiesel, “Receptive fields of single neurones in the cat’s striate cortex”, J. Physiol., c. 148(3), 57, sayı 12, ss. 574–591, 1959.
• [8] H. J. Kelley, “Gradient Theory of Optimal Flight Paths”, ARS J., c. 30, sayı 10, ss. 947–954, 1960.
• [9] A. Ivakhnenko, “Cybernetic predicting devices”, sayı September, 1966.
• [10] K. Fukushima, “Neocognitron: A self-organizing neural network model for a mechanism of pattern recognition unaffected by shift in position”, Biol. Cybern., c. 36, sayı 4, ss. 193–202, 1980.
• [11] S. Aras, “Yapay si̇ni̇r ağlariyla zaman seri̇si̇ tahmi̇nlemesi̇nde yeni̇ bi̇r model seçi̇m strateji̇si̇”, 2013.
• [12] C. R. Rosenberg ve T. J. Sejnowski, “The spacing effect on NETtalk, a massively parallel network”, Proc. Eighth Annu. Conf. Cogn. Sci. Soc., ss. 72–89, 1986.
• [13] S. Hochreiter ve J. Schmidhuber, “Long Short-Term Memory”, Pak. J. Zool., c. 50, sayı 6, ss. 2199–2207, 1997.
• [14] Y. Lecun, L. Bottou, Y. Bengio, ve P. Haffner, “Gradient-Based Learning Applied to Document Recognition”, Biochem. Biophys. Res. Commun., c. 330, sayı 4, ss. 1299–1305, 1998.
• [15] L. Fei-Fei, J. Deng, ve K. Li, “ImageNet: Constructing a large-scale image database”, J. Vis., c. 9, sayı 8, ss. 1037–1037, 2010.
• [16] Y. Taigman, M. Yang, M. Ranzato, ve L. Wolf, “DeepFace: Closing the gap to human-level performance in face verification”, Proc. IEEE Comput. Soc. Conf. Comput. Vis. Pattern Recognit., ss. 1701–1708, 2014.
• [17] Z. Yu, K. Wang, Z. Wan, S. Xie, ve Z. Lv, “Popular deep learning algorithms for disease prediction: a review”, Cluster Comput., c. 26, sayı 2, ss. 1231–1251, 2023.
• [18] F. Demir, “Ultrason RF Sinyallerinden Göğüs Kanserinin Derin Öğrenme Tabanlı Yaklaşımlarla Tespit Edilmesi”, Fırat Üniversitesi Mühendislik Bilim. Derg., c. 34, sayı 2, ss. 761–768, 2022.
• [19] A. M. N. Erdoğan, T. Öztürk, ve M. Talo, “Yeni bir Evrişimsel Sinir Ağı Modeli Kullanarak Bilgisayarlı Tomografi Görüntülerinden Akciğer Kanseri Tespiti”, c. 34, sayı 2, ss. 795–802, 2022.
• [20] K. A. Joseph, C. Joshua Sony, L. Rajkumar, S. Krishna, A. Francis, ve A. Babu, “Deep Learning based Beach Cleaning Robot”, 2023 2nd Int. Conf. Appl. Artif. Intell. Comput., sayı Icaaic, ss. 427–433, 2023.
• [21] M. Haris ve A. Glowacz, “Road object detection: a comparative study of deep learning-based algorithms”, Multimed. Tools Appl., c. 81, sayı 10, ss. 14247–14282, 2022.
• [22] F. Yin, J. Du, X. Xu, ve L. Zhao, “Depression Detection in Speech Using Transformer and Parallel Convolutional Neural Networks”, Electron., c. 12, sayı 2, ss. 1–16, 2023.
• [23] N. Jing, Z. Wu, ve H. Wang, “A hybrid model integrating deep learning with investor sentiment analysis for stock price prediction”, Expert Syst. Appl., c. 178, sayı April, s. 115019, 2021.
• [24] Y. Bengio, Learning deep architectures for AI, c. 2, sayı 1. 2009.
• [25] H. A. Song ve S. Y. Lee, “Hierarchical representation using NMF”, Lect. Notes Comput. Sci., c. 8226 LNCS, sayı PART 1, ss. 466–473, 2013.
• [26] S. Wang, “Artificial Neural Network. In: Interdisciplinary computing in java programming”, Springer Int. Ser. Eng. Comput. Sci., c. 743, ss. 39–55, 2003.
• [27] A. M. Alsugair ve A. A. Al-Qudrah, “Artificial neural network approach for pavement maintenance”, J. Comput. Civ. Eng., c. 12, sayı 4, ss. 249–255, 1998.
• [28] S. W.S., “Neural Networks FAQ’s”, 1997.
• [29] K. Ozturk ve M. Şahin, “Yapay Sinir Ağları ve Yapay Zekâ’ya Genel Bir Bakış”, Tak. Vekayi, c. 6, sayı 2, ss. 25–36, 2018.
• [30] D. Hubel and T. Wiesel, “Receptive fields and functional architecture of monkey striate cortex”, J. Physiol., c. 195, sayı 1, ss. 215–243, 1968.
• [31] W. Hu, Y. Huang, L. Wei, F. Zhang, ve H. Li, “Deep convolutional neural networks for hyperspectral image classification”, J. Sensors, c. 2015, 2015.
• [32] E. Gavcar ve H. M. Metin, “Hisse Senedi Değerlerinin Makine Öğrenimi (Derin Öğrenme) İle Tahmini”, c. 10, sayı 2, ss. 1–11, 2021.
• [33] D. Bahdanau, K. H. Cho, ve Y. Bengio, “Neural machine translation by jointly learning to align and translate”, 3rd Int. Conf. Learn. Represent. ICLR 2015, ss. 1–15, 2015.
• [34] A. Karpathy ve L. Fei-Fei, “Deep Visual-Semantic Alignments for Generating Image Descriptions Andrej”, Am. Lit. Transition, 2000-2010, ss. 152–164, 2014.
• [35] C. L. Giles, S. Lawrence, ve A. C. Tsoi, “Noisy time series prediction using recurrent neural networks and grammatical inference”, Mach. Learn., c. 44, sayı 1–2, ss. 161–183, 2001.
• [36] A. M. Rush, S. Chopra, ve J. Weston, “A Neural Attention Model for Sentence Summarization Alexander”, Inov. Pendidik. Fis., c. 5, sayı 3, ss. 379–389, 2015.
• [37] Y. Shkarupa, R. Mencis, ve M. Sabatelli, “Offline Handwriting Recognition Using LSTM Recurrent Neural Networks”, Int. J. Adv. Res., c. 4, sayı 2, ss. 1541–1545, 2016.
• [38] T. Mikolov, M. Karafiat, L. Burget, J. Honza, ve S. Khudanpur, “Recurrent neural network based language model”, Proc. Annu. Meet. Assoc. Comput. Linguist., sayı September, ss. 8093–8104, 2010.
• [39] Y. Bengio, P. Simard, ve P. Frasconi, “Learning Long-Term Dependencies with Gradient Descent is Difficult”, Pediatr. Catalana, c. 66, sayı 2, ss. 53–61, 1994.
• [40] Z. Cao, F. Wei, L. Dong, S. Li, ve M. Zhou, “Ranking with recursive neural networks and its application to multi-document summarization”, Proc. Natl. Conf. Artif. Intell., c. 3, ss. 2153–2159, 2015.
• [41] J. Schmidhuber, F. Gers, ve D. Eck, “Learning nonregular languages: A comparison of simple recurrent networks and LSTM”, Neural Comput., c. 14, sayı 9, ss. 2039–2041, 2002.
• [42] R. Salakhutdinov, A. Mnih, ve G. Hinton, “Restricted Boltzmann Machines for Collaborative Filtering”, Nonlinear Anal. Real World Appl., c. 10, sayı 5, ss. 2700–2708, 2007.
• [43] G. E. Hinton, “A practical guide to training restricted boltzmann machines”, Lect. Notes Comput. Sci., c. 7700 LECTU, ss. 599–619, 2012.
• [44] G. E. Hinton ve R. Salakhutdinov, “Reducing the Dimensionality of Data with Neural Networks”, c. 313, sayı July, ss. 504–507, 2006.
• [45] H. Larochelle ve Y. Bengio, “Classification using discriminative restricted boltzmann machines”, Proc. 25th Int. Conf. Mach. Learn., ss. 536–543, 2008.
• [46] A. Coates, H. Lee, ve A. Y. Ng, “An analysis of single-layer networks in unsupervised feature learning”, J. Mach. Learn. Res., c. 15, ss. 215–223, 2011.
• [47] R. Salakhutdinov ve G. Hinton, “Replicated Softmax: an Undirected Topic Model”, ss. 1–8, 2009.
• [48] X. Lu, Y. Tsao, S. Matsuda, ve C. Hori, “Speech enhancement based on deep denoising autoencoder”, ss. 436–440, 2013.
• [49] P. Vincent, H. Larochelle, Y. Bengio, ve P. A. Manzagol, “Stacked denoising autoencoders: Learning Useful Representations in a Deep Network with a Local Denoising Criterion”, J. Mach. Learn. Res., c. 11, ss. 3371–3408, 2010.
• [50] O. Kaynar, H. Arslan, Y. Görmez, ve Y. E. Işık, “Makine Öğrenmesi ve Öznitelik Seçim Yöntemleriyle Saldırı Tespiti”, Bilişim Teknol. Derg., c. 11, sayı 2, ss. 175–185, 2018.
• [51] İ. Topaloğlu ve M. E. Şahin, “Endüstri 4.0’ın İş Sağlığı ve Güvenliğine Katkıları ve Hata Türü ve Etkileri Analizi Risk Değerlendirme Metoduyla Ambulansta Bir İnceleme”, Tak. vekayi, ss. 66–94, 2021.
• [52] M. Soori, B. Arezoo, ve R. Dastres, “Artificial intelligence, machine learning and deep learning in advanced robotics, a review”, Cogn. Robot., c. 3, sayı April, ss. 54–70, 2023.
• [53] S. Zhao, F. Blaabjerg, ve H. Wang, “An overview of artificial intelligence applications for power electronics”, IEEE Trans. Power Electron., c. 36, sayı 4, ss. 4633–4658, 2021.
• [54] L. Li, “Application of deep learning in image recognition”, J. Phys. Conf. Ser., c. 1693, sayı 1, 2020.
• [55] V. S. R. Kosuru ve A. Kavasseri Venkitaraman, “A Smart Battery Management System for Electric Vehicles Using Deep Learning-Based Sensor Fault Detection”, World Electr. Veh. J., c. 14, sayı 4, 2023.
• [56] M. E. Şahin ve F. Blaabjerg, “A hybrid PV-battery/supercapacitor system and a basic active power control proposal in MATLAB/simulink”, Electron., c. 9, sayı 1, ss. 1–17, 2020.
• [57] F. Uysal ve M. Erkan, “Evrişimsel Sinir Ağları Temelli Derin Öğrenme Modelleri Kullanılarak Beyin Tümörü Manyetik Rezonans Görüntülerinin Sınıflandırılması”, ss. 19–27, 2023.
• [58] K. Baysal, “Derin öğrenme temelli yeni nesil güvenlik duvarının tasarlanması”, sayı 8.5.2017, s. 2003, 2022.
• [59] H. İ. Temel, “Yapay zeka temelli maksimum güç noktası takibi”, 2021.
• [60] A. K. Venkitaraman ve V. S. R. Kosuru, “Hybrid Deep Learning Mechanism for Charging Control and Management of Electric Vehicles”, Eur. J. Electr. Eng. Comput. Sci., c. 7, sayı 1, ss. 38–46, 2023.
• [61] L. Greenemeier, “AI versus AI: Self-Taught AlphaGo Zero Vanquishes Its Predecessor”, Scientific American, 2017. https://www.scientificamerican.com/article/ai-versus-ai-self-taught-alphago-zero-vanquishes-its-predecessor/ (erişim 16 Kasım 2022).
• [62] P. Vitoria, L. Raad, ve C. Ballester, “ChromaGAN: Adversarial picture colorization with semantic class distribution”, ss. 2434–2443, 2020.
• [63] “Image Classification on ImageNet”, Paperswithcode. https://paperswithcode.com/sota/image-classification-on-imagenet (erişim 15 Kasım 2022).
• [64] A. Krizhevsky, I. Sutskever, ve G. E. Hinton, “ImageNet Classification with Deep Convolutional Neural Networks”, Handb. Approx. Algorithms Metaheuristics, ss. 1–1432, 2012.
• [65] C. Szegedy, S. Ioffe, V. Vanhoucke, ve A. A. Alemi, “Inception-v4, Inception-ResNet and the Impact of Residual Connections on Learning”, Pattern Recognit. Lett., c. 42, sayı 1, ss. 11–24, 2017.
• [66] K. Simonyan ve A. Zisserman, “Very deep convolutional networks for large-scale image recognition”, 3rd Int. Conf. Learn. Represent. ICLR 2015 - Conf. Track Proc., ss. 1–14, 2015.
• [67] O. Russakovsky vd., “ImageNet Large Scale Visual Recognition Challenge”, Int. J. Comput. Vis., c. 115, sayı 3, ss. 211–252, 2015.
• [68] E. E. Maraş ve H. İ. Sarıyıldız, “İHA ile Derin Öğrenme Algoritmaları Kullanılarak Hasarlı Yapıların Tespit Edilmesi”, Afyon Kocatepe Univ. J. Sci. Eng., c. 23, sayı 2, ss. 427–437, May. 2023.
• [69] M. Kanber ve Y. Santur, “Time Series and Data Science Preprocessing Approaches for Earthquake Analysis”, Eur. J. Sci. Technol., sayı 49, s. 12, 2023.
• [70] G. Boost, “Makine öğrenimi yöntemleri kullanılarak Türkiye ’ nin kuzeybatısı için deprem tahmini”, c. 44, sayı 2, 2023.
• [71] “Türkiye’nin uzaydan tespit edilen deprem hasar haritası”, 2023. https://www.arkeolojikhaber.com/haber-turkiyenin-uzaydan-tespit-edilen-deprem-hasar-haritasi-36362/
• [72] E. Izci, M. Degirmenci, M. A. Ozdemir, ve A. Akan, “Derin Öğrenme ile EKG Aritmi Tespiti”, 2020 28th Signal Process. Commun. Appl. Conf., ss. 1–4, 2020.
• [73] S. Perla, R. Bisoi, ve P. K. Dash, “A hybrid neural network and optimization algorithm for forecasting and trend detection of Forex market indices”, Decis. Anal. J., c. 6, sayı January, s. 100193, 2023.
• [74] A. B. Wardak ve J. Rasheed, “Uzun Kısa Vadeli Bellek Tekrarlayan Sinir Ağı Kullanarak Bitcoin Kripto Para Birimi Fiyat Tahmini”, Eur. J. Sci. Technol., ss. 47–53, 2022.
• [75] M. Han ve M. Sarazen, “Boston Dynamics Robodog Opens a Door, Owns the Internet”, 2018. https://syncedreview.com/2018/02/13/boston-dynamics-robodog-opens-a-door-owns-the-internet/ (erişim 10 Ocak 2023).
• [76] U. Younas, “Deep Learning LSTM-based MPPT Control of 100kW Dual Stage Grid Tied Solar PV System”, ss. 1–33, 2023.
• [77] D. Belkhiri, M. Ajaamoum, K. Cherifi, ve A. Elidrissi, “Artificial Intelligence-based MPPT Techniques in Wind Energy Systems: A Literature Review”, 2023 3rd Int. Conf. Innov. Res. Appl. Sci. Eng. Technol. 2023, sayı May, 2023.
• [78] P. Qashqai, H. Vahedi, ve K. Al-Haddad, “Applications of artifical intelligence in power electronics”, IEEE Int. Symp. Ind. Electron., c. 2019-June, ss. 764–769, 2019.