Destek Vektör Makineleri Algoritması ile Uçtan Uca Yazar Tanıma Uygulaması Geliştirme

Öz

Yüzyıllardır süregelen yazarı belirsiz metinler sorunu, internet çağının başlamasıyla oldukça artmıştır. Bu durumun en büyük sebebi internetteki verilerin çok yüksek oranını yapısal olmayan verilerin oluşturması ve bu yapısal olmayan verilerin de büyük bir bölümünü sınıflandırılmamış, yazarları belirsiz metinlerin oluşturmasıdır. Son yıllarda yapılan sınıflandırma işlemlerinde makine öğrenmesi yöntemlerinin kullanılması, yazar tanıma problemlerine yeni bir bakış açısı getirmiştir. Bu çalışmada makine öğrenmesi yöntemleri kullanılarak yazar tanıma problemi için web tabanlı arayüze sahip uçtan uca bir uygulama geliştirilmiştir. Sınıflandırma işlemi için 37 yazarın köşe yazılarından oluşturulmuş 46715 metin verisi içeren bir derlem kullanılmıştır. Bu derlemden TF-IDF yöntemi kullanılarak öznitelikler çıkarılmış ve bir veri kümesi elde edilmiştir. Daha sonra veri kümesi, Destek Vektör Makineleri (DVM), NB (NB) ve RO (RO) gibi makine öğrenme algoritmaları ile eğitilmiş ve test edilmiştir. Test sonucunda, DVM %90 doğruluk oranıyla en iyi performansı gösteren sınıflandırıcı model olmuştur. Elde edilen DVM modeline, Python programlama dilinin kütüphanelerinden olan Flask kullanılarak bir web arayüzü geliştirilmiştir. Son olarak uygulama, kararlı ve dağıtıma uygun bir halde çalıştırılması amacıyla Docker konteynerına dönüştürülmüştür. Sonuç olarak, uçtan uca geliştirilen bir yazar tanıma uygulaması doğrudan son kullanıcı tarafından kullanılabilir biçimde sunulmuştur. Makine öğrenmesi desteğiyle web tabanlı böyle bir uygulamanın oluşturulması, yazar tanıma çalışmasını daha anlamlı ve kullanılabilir hale getirmiştir.

Anahtar Kelimeler

• Yazar tanıma
• Destek Vektör Makineleri
• TF-IDF
• Docker

Makine Öğrenmesi Algoritmaları ile Uçtan Uca Yazar Tanıma Uygulaması Geliştirme

Öz

Abstract: The problem of unidentified texts, which has been going on for centuries, has increased considerably with the beginning of the internet age. The biggest reason for this situation is that very high percentage of data on the internet is composed of unstructured data, and a large part of this unstructured data is composed of unclassified texts with uncertain authors. The use of machine learning methods in classification processes in recent years has brought a new perspective to authorship identification problems. In this study, an end-to-end application with a web-based interface was developed for the authorship identification problem using machine learning methods. First of all, a corpus containing 46715 text data was created from the columns of 37 authors. Features were extracted from this corpus using the TF-IDF method and a dataset was obtained. Then the dataset is trained and tested with Support Vector Machines (SVM), NB (NB) and Random Forest (RF) machine learning algorithms. As a result of the test, SVM was the best performing classifier model with 90% accuracy. A web interface was developed for the obtained SVM model by using Flask, one of the libraries of the Python programming language. Then, the application has been converted into a Docker container to run it in a stable and distribution-friendly state. As a result, an end-to-end authorship identification application has been made to deploy available directly to the end user. The creation of such a web-based application with the support of machine learning has made the authorship identification study more meaningful and usable.

Anahtar Kelimeler

• Author identification
• Support Vector Machines
• TF-IDF
• Docker

Kaynakça

1. Berry, M. W., “Survey of Text Mining”, Computing Reviews, 45(9),548,2004
2. Brocard M. L., Traore I. Saad S., Woungang I., “Authorship Verification for Short Messages using Stylometry”, Computer, Information and Telecommunication Systems (CITS), 2013
3. Ma J., Li Y., Teng G., Wang F. Zhao Y.,”Sequential Pattern Mining for Chinese E-mail Authorship Identification”, The 3rd Intetnational Conference on Innovative Computing Information and Control (ICICIC), 2008
4. Diederich J., Kindermann J., Leoopold E., Paass G., “Authorship Attribution with Support Vector Machines”, Applied intelligence, 2003
5. Peng F., Keselj V., Cerconey N., Thomasy C., “N-gram-based Author Profiles For Authorship Attribution”, Faculty of Computing Science, Dalhousie University, 2003
6. Zheng R., Li J., Chen H., Huang Z., “A Framework for Authorship Identification of Online Messages: Writing Style Features and Classification Techniques”, Journal of the American Society of Information Science and Technology, 2006
7. Abbasi A., Hsinchun C., “Applying Authorship Analysis to Extremist-group Web Forum Messages”, IEEE Intelligent Systems, 2005
8. Patton J. M, Can F., “A Stylometric Analysis of Yaşar Kemal’s İnce Mehmed Tetralogy”, Computers and the Humanities, 2004

9. Yavanoğlu Ö., “Stilistik Özellikler Kullanılarak Yazar Tanıma İşinde Yapay Sinir Ağlarının Başarımının Değerlendirilmesi: Türkçe Köşe Yazıları”, 2017
10. Diri B., Amasyalı, M.F., “Automatic Turkish Text Categorization in Terms of Author, Genre and Gender”, 2006
11. Doğan S., “Türkçe Dökümanlar İçin N-Gram tabanlı Sınıflandırma: Yazar Tür ve Cinsiyet”, 2006
12. Cavnar, W. B., “Trenkle J. M., N-gram-based Text Categorization, Proceedings of SDAIR-94, 3rd Annual Symposium on Document Analysis and Information Rertrieval”. Information Systems Project Management, Jolyon E. Hallows, AMACOM Pres. 1994
13. Kızrak, M., Bolat B., “Derin Öğrenme ile Kalabalık Analizi Üzerine Detaylı Bir Araştırma”, Bilişim Teknolojileri Dergisi, c.11, no:11 2018
14. [URL-1] https://www.oracle.com/tr/data-science/machine-learning/what-is-machine-learning/, 2021
15. [URL-2]https://www.expert.ai/blog/machine-learning-definition/#:~:text=Machine%20learning%20is%20an%20application,use%20it%20learn%20for%20themselves, 2021
16. [URL-3] https://www.datasciencearth.com/algorithm-naive-bayes-classifier/, 2021
17. Ron K., Scaling Up the Accuracy of NB Classifiers: a Decision Tree Hybrid, 2011
18. Rısh, I., “An Emprical Study of the Naive Bayes”. IBM Research Report, 2001
19. Zhang H., “The Optimality of Naive Bayes”, In Flaırs Conference, 2004
20. Vapnik, V.N., “The Nature of Statictical Learn Theory”, Springer-Verlag, 1995
21. Kavzoğlu T., Çölkesen İ., “Destek Vektör Makineleri İle Uydu Görüntülerinin Sınıflandırılmasında Kernel Fonksiyonlarının İncelenmesi”, 2010
22. Haykın S., “Neural Networks: A Comprehensive Foundation” ,1999
23. Akpınar H., DATA-Veri Madenciliği Veri Analizi, 2014
24. [URL-4]https://medium.com/@k.ulgen90/makine-%C3%B6%C4%9Frenimi-b%C3%B6l%C3%BCm-4-destek-vekt%C3%B6r-makineleri-2f8010824054 , 2022
25. Shilton A., Palaniswami M., Ralph D., Tsoi A. C., “Incremental Training of Support Vector Machines”, 2005
26. Osuna E. E., Freund R., Girosi F., “Support Vector Machines: Training and Aplications”, 1997
27. Demirci D. A., “Destek Vektör Makineleri ile Karakter Tanıma”, 2007
28. Cortes C., Vapnik V., “Support Vector Network”, 1995
29. Kecman V., “Learning and Soft Computing: Support Vector Machines”, 2003
30. Yakut E., Elmas B., Yavuz S., “Yapay Sinir Ağları ve Destek Vektör Makineleri Yöntemleriyle Borsa Endeksi Tahmini”, 2014
31. Metlek S., Kayaalp K., “Destek Vektör Makineleri”, 2020
32. [URL-5] https://bilgisayarkavramlari.com/2008/12/01/cok-sinifli-dvm-multiclass-svm/ ,2022
33. [URL-6] https://yigitsener.medium.com/destek-vekt%C3%B6r-makineleri-support-vector-machine-svm-%C3%A7al%C4%B1%C5%9Fma-mant%C4%B1%C4%9F%C4%B1-ve-python-uygulamas%C4%B1-992163ff3eec, 2022
34. Korkem E., “Mikroarray Gen Ekspresyon Veri Setlerinde Random Forest ve NB Sınıflama Yöntemleri Yaklaşımı”, 2013
35. Coşgun E., Karabulut E., Karaağaoğlu E., “Random Forest ve Destek Vektör Makinası Yöntemleri ile Gen Seçimi ve Sınıflaması”, 2009
36. [URL-7] http://zembereknlp.blogspot.com/ , 2022
37. [URL-8] https://www.veribilimiokulu.com/dogal-dili-anlamak-chatbot-nasil-anlar/ ,2022
38. Hotho A., Nürnberger A., Paab G., “A Brief Survey of Text Mining”, 2005
39. Kaya S., “Doğal Dil İşleme Teknikleriyle Yazar-Kitap Tanıma”, 2018
40. Aksoy N., “Türkçe Dilinde Yapılmış Açık Uçlu Sınavların Doğal Dil İşleme ile Otomatik Olarak Değerlendirilmesi”, 2021
41. Khalid S., Khalil T., Nasreen S., “A Survey of Feauture Selection and Feature Extraction Techniques in Machine Learning” , Proceedings of 2014 Science and Information Conference, 2014
42. [URL-9] https://www.btkakademi.gov.tr/portal/course/dogal-dil-islemeye-giris-11864
43. Scikit_Learn,https://scikitlearn.org/stable/modules/generated/sklearn.feature_extraction.text.TfidfVectorizer.html, 2022
44. [URL-10] https://web.yemreak.com/web-teknolojileri/flask , 2022
45. [URL-11] https://medium.com/kodlayan-nesil/flask-nedir-9364c1bb5f41, 2022
46. Aydemir E., Işık M., Tuncer T., “Türkçe Haber Metinlerinin Çok Terimli NB Algoritması Kullanılarak Sınıflandırılması”, 2021
47. [URL-12]https://medium.com/deep-learning-turkiye/regresyon-ve-s%C4%B1n%C4%B1fland%C4%B1rmada-hata-metrikleri-143a40c6b656,2022