Destek Vektör Makineleri Algoritması ile Uçtan Uca Yazar Tanıma Uygulaması Geliştirme

Year 2022, Volume: 9 Issue: 4, 1303 - 1314, 31.12.2022

İlayda Erdoğan Merve Güllü Hüseyin Polat

https://doi.org/10.31202/ecjse.1134698

Abstract

Yüzyıllardır süregelen yazarı belirsiz metinler sorunu, internet çağının başlamasıyla oldukça artmıştır. Bu durumun en büyük sebebi internetteki verilerin çok yüksek oranını yapısal olmayan verilerin oluşturması ve bu yapısal olmayan verilerin de büyük bir bölümünü sınıflandırılmamış, yazarları belirsiz metinlerin oluşturmasıdır. Son yıllarda yapılan sınıflandırma işlemlerinde makine öğrenmesi yöntemlerinin kullanılması, yazar tanıma problemlerine yeni bir bakış açısı getirmiştir. Bu çalışmada makine öğrenmesi yöntemleri kullanılarak yazar tanıma problemi için web tabanlı arayüze sahip uçtan uca bir uygulama geliştirilmiştir. Sınıflandırma işlemi için 37 yazarın köşe yazılarından oluşturulmuş 46715 metin verisi içeren bir derlem kullanılmıştır. Bu derlemden TF-IDF yöntemi kullanılarak öznitelikler çıkarılmış ve bir veri kümesi elde edilmiştir. Daha sonra veri kümesi, Destek Vektör Makineleri (DVM), NB (NB) ve RO (RO) gibi makine öğrenme algoritmaları ile eğitilmiş ve test edilmiştir. Test sonucunda, DVM %90 doğruluk oranıyla en iyi performansı gösteren sınıflandırıcı model olmuştur. Elde edilen DVM modeline, Python programlama dilinin kütüphanelerinden olan Flask kullanılarak bir web arayüzü geliştirilmiştir. Son olarak uygulama, kararlı ve dağıtıma uygun bir halde çalıştırılması amacıyla Docker konteynerına dönüştürülmüştür. Sonuç olarak, uçtan uca geliştirilen bir yazar tanıma uygulaması doğrudan son kullanıcı tarafından kullanılabilir biçimde sunulmuştur. Makine öğrenmesi desteğiyle web tabanlı böyle bir uygulamanın oluşturulması, yazar tanıma çalışmasını daha anlamlı ve kullanılabilir hale getirmiştir.

Keywords

Yazar tanıma, Destek Vektör Makineleri, TF-IDF, Docker

Makine Öğrenmesi Algoritmaları ile Uçtan Uca Yazar Tanıma Uygulaması Geliştirme

Abstract

Abstract: The problem of unidentified texts, which has been going on for centuries, has increased considerably with the beginning of the internet age. The biggest reason for this situation is that very high percentage of data on the internet is composed of unstructured data, and a large part of this unstructured data is composed of unclassified texts with uncertain authors. The use of machine learning methods in classification processes in recent years has brought a new perspective to authorship identification problems. In this study, an end-to-end application with a web-based interface was developed for the authorship identification problem using machine learning methods. First of all, a corpus containing 46715 text data was created from the columns of 37 authors. Features were extracted from this corpus using the TF-IDF method and a dataset was obtained. Then the dataset is trained and tested with Support Vector Machines (SVM), NB (NB) and Random Forest (RF) machine learning algorithms. As a result of the test, SVM was the best performing classifier model with 90% accuracy. A web interface was developed for the obtained SVM model by using Flask, one of the libraries of the Python programming language. Then, the application has been converted into a Docker container to run it in a stable and distribution-friendly state. As a result, an end-to-end authorship identification application has been made to deploy available directly to the end user. The creation of such a web-based application with the support of machine learning has made the authorship identification study more meaningful and usable.

Keywords

Author identification, Support Vector Machines, TF-IDF, Docker

References

• Berry, M. W., “Survey of Text Mining”, Computing Reviews, 45(9),548,2004
• Brocard M. L., Traore I. Saad S., Woungang I., “Authorship Verification for Short Messages using Stylometry”, Computer, Information and Telecommunication Systems (CITS), 2013
• Ma J., Li Y., Teng G., Wang F. Zhao Y.,”Sequential Pattern Mining for Chinese E-mail Authorship Identification”, The 3rd Intetnational Conference on Innovative Computing Information and Control (ICICIC), 2008
• Diederich J., Kindermann J., Leoopold E., Paass G., “Authorship Attribution with Support Vector Machines”, Applied intelligence, 2003
• Peng F., Keselj V., Cerconey N., Thomasy C., “N-gram-based Author Profiles For Authorship Attribution”, Faculty of Computing Science, Dalhousie University, 2003
• Zheng R., Li J., Chen H., Huang Z., “A Framework for Authorship Identification of Online Messages: Writing Style Features and Classification Techniques”, Journal of the American Society of Information Science and Technology, 2006
• Abbasi A., Hsinchun C., “Applying Authorship Analysis to Extremist-group Web Forum Messages”, IEEE Intelligent Systems, 2005
• Patton J. M, Can F., “A Stylometric Analysis of Yaşar Kemal’s İnce Mehmed Tetralogy”, Computers and the Humanities, 2004
• Yavanoğlu Ö., “Stilistik Özellikler Kullanılarak Yazar Tanıma İşinde Yapay Sinir Ağlarının Başarımının Değerlendirilmesi: Türkçe Köşe Yazıları”, 2017
• Diri B., Amasyalı, M.F., “Automatic Turkish Text Categorization in Terms of Author, Genre and Gender”, 2006
• Doğan S., “Türkçe Dökümanlar İçin N-Gram tabanlı Sınıflandırma: Yazar Tür ve Cinsiyet”, 2006
• Cavnar, W. B., “Trenkle J. M., N-gram-based Text Categorization, Proceedings of SDAIR-94, 3rd Annual Symposium on Document Analysis and Information Rertrieval”. Information Systems Project Management, Jolyon E. Hallows, AMACOM Pres. 1994
• Kızrak, M., Bolat B., “Derin Öğrenme ile Kalabalık Analizi Üzerine Detaylı Bir Araştırma”, Bilişim Teknolojileri Dergisi, c.11, no:11 2018
• [URL-1] https://www.oracle.com/tr/data-science/machine-learning/what-is-machine-learning/, 2021
• [URL-2]https://www.expert.ai/blog/machine-learning-definition/#:~:text=Machine%20learning%20is%20an%20application,use%20it%20learn%20for%20themselves, 2021
• [URL-3] https://www.datasciencearth.com/algorithm-naive-bayes-classifier/, 2021
• Ron K., Scaling Up the Accuracy of NB Classifiers: a Decision Tree Hybrid, 2011
• Rısh, I., “An Emprical Study of the Naive Bayes”. IBM Research Report, 2001
• Zhang H., “The Optimality of Naive Bayes”, In Flaırs Conference, 2004
• Vapnik, V.N., “The Nature of Statictical Learn Theory”, Springer-Verlag, 1995
• Kavzoğlu T., Çölkesen İ., “Destek Vektör Makineleri İle Uydu Görüntülerinin Sınıflandırılmasında Kernel Fonksiyonlarının İncelenmesi”, 2010
• Haykın S., “Neural Networks: A Comprehensive Foundation” ,1999
• Akpınar H., DATA-Veri Madenciliği Veri Analizi, 2014
• [URL-4]https://medium.com/@k.ulgen90/makine-%C3%B6%C4%9Frenimi-b%C3%B6l%C3%BCm-4-destek-vekt%C3%B6r-makineleri-2f8010824054 , 2022
• Shilton A., Palaniswami M., Ralph D., Tsoi A. C., “Incremental Training of Support Vector Machines”, 2005
• Osuna E. E., Freund R., Girosi F., “Support Vector Machines: Training and Aplications”, 1997
• Demirci D. A., “Destek Vektör Makineleri ile Karakter Tanıma”, 2007
• Cortes C., Vapnik V., “Support Vector Network”, 1995
• Kecman V., “Learning and Soft Computing: Support Vector Machines”, 2003
• Yakut E., Elmas B., Yavuz S., “Yapay Sinir Ağları ve Destek Vektör Makineleri Yöntemleriyle Borsa Endeksi Tahmini”, 2014
• Metlek S., Kayaalp K., “Destek Vektör Makineleri”, 2020
• [URL-5] https://bilgisayarkavramlari.com/2008/12/01/cok-sinifli-dvm-multiclass-svm/ ,2022
• [URL-6] https://yigitsener.medium.com/destek-vekt%C3%B6r-makineleri-support-vector-machine-svm-%C3%A7al%C4%B1%C5%9Fma-mant%C4%B1%C4%9F%C4%B1-ve-python-uygulamas%C4%B1-992163ff3eec, 2022
• Korkem E., “Mikroarray Gen Ekspresyon Veri Setlerinde Random Forest ve NB Sınıflama Yöntemleri Yaklaşımı”, 2013
• Coşgun E., Karabulut E., Karaağaoğlu E., “Random Forest ve Destek Vektör Makinası Yöntemleri ile Gen Seçimi ve Sınıflaması”, 2009
• [URL-7] http://zembereknlp.blogspot.com/ , 2022
• [URL-8] https://www.veribilimiokulu.com/dogal-dili-anlamak-chatbot-nasil-anlar/ ,2022
• Hotho A., Nürnberger A., Paab G., “A Brief Survey of Text Mining”, 2005
• Kaya S., “Doğal Dil İşleme Teknikleriyle Yazar-Kitap Tanıma”, 2018
• Aksoy N., “Türkçe Dilinde Yapılmış Açık Uçlu Sınavların Doğal Dil İşleme ile Otomatik Olarak Değerlendirilmesi”, 2021
• Khalid S., Khalil T., Nasreen S., “A Survey of Feauture Selection and Feature Extraction Techniques in Machine Learning” , Proceedings of 2014 Science and Information Conference, 2014
• [URL-9] https://www.btkakademi.gov.tr/portal/course/dogal-dil-islemeye-giris-11864
• Scikit_Learn,https://scikitlearn.org/stable/modules/generated/sklearn.feature_extraction.text.TfidfVectorizer.html, 2022
• [URL-10] https://web.yemreak.com/web-teknolojileri/flask , 2022
• [URL-11] https://medium.com/kodlayan-nesil/flask-nedir-9364c1bb5f41, 2022
• Aydemir E., Işık M., Tuncer T., “Türkçe Haber Metinlerinin Çok Terimli NB Algoritması Kullanılarak Sınıflandırılması”, 2021
• [URL-12]https://medium.com/deep-learning-turkiye/regresyon-ve-s%C4%B1n%C4%B1fland%C4%B1rmada-hata-metrikleri-143a40c6b656,2022