The Impact of Artificial Intelligence-Based Systems on Personal Data Privacy: A Study on Chatbots

Year 2022, , 481 - 491, 31.10.2022

Fatma Başkaya , Hacer Karacan

https://doi.org/10.17671/gazibtd.1053803

Cited By: 8

Abstract

Use of artificial intelligence has increased with the developments in technology. Although the benefits of this situation have mostly been discussed, its negative impacts on personal data privacy and security shouldn’t be overlooked. Artificial intelligence-based systems can cause antithetical situations in terms of the privacy rights of individuals because of the fact that data is the raw material for artificial intelligence. Accordingly, the risks posed by artificial intelligence, some methods recommended to overcome these risks, and one of these methods, federated learning, were covered in the current study. Moreover, a study and survey were conducted on chatbots which are artificial intelligence products and are frequently used in applications applied on various sectors. In this sense, some details and recommendations regarding the use of chatbots and the compatibility of their structure with personal data security were included. In the survey with four questions, it was aimed to understand the extent of using chatbots and the awareness on the effects of chatbot using personal data. The survey results showed that chatbots are mostly used for banking transactions and 62.1% of individuals do not know that these services can save and process personal data.

Keywords

artificial intelligence, data privacy, KVKK, GDPR, federated learning, chatbots

Yapay Zekâ Tabanlı Sistemlerin Kişisel Veri Mahremiyeti Üzerine Etkisi: Sohbet Robotları Üzerine İnceleme

Abstract

Günümüz gelişen teknolojisiyle birlikte yapay zekâ kullanımı artmıştır. Bu durumun çoğunlukla faydaları üzerine konuşulsa da kişisel veri mahremiyetine ve güvenliğine olumsuz etkisi göz ardı edilmemelidir. Çünkü yapay zekâ için ham madde olan veriler, kişilerin mahremiyet haklarına aykırı durumlara neden olabilmektedir. Bu doğrultuda ilgili çalışmada; genel olarak yapay zekânın kişisel veri mahremiyeti açısından oluşturduğu risklere, bu risklerin giderilmesi için önerilen bazı yöntemlere ve bu yöntemlerden biri olan federe öğrenme metodu ile ilgili detaylara yer verilmiştir. Ayrıca günümüzde çeşitli sektörlere ait uygulamalarda sıklıkla kullanılan yapay zekâ ürünü, sohbet robotları (chatbot) ile ilgili bir inceleme ve anket çalışması yapılmıştır. Bu anlamda; sohbet robotlarının kullanımı ve yapısının kişisel veri güvenliğine uygunluğu ile ilgili detaylara ve önerilere yer verilirken anket çalışmasında ise kişilere yöneltilen dört adet soru ile kişilerin, sohbet robotu kullanma boyutunu ve sohbet robotu kullanımının kişisel verilere etkisine yönelik farkındalığını ölçmek amaçlanmıştır. Anket sonuçları, sohbet robotlarının en fazla bankacılık işlemleri için kullanıldığını ve bireylerin %62,1’inin ise bu servislerin kişisel verileri kaydedip işleyebileceğini bilmediğini göstermiştir.

Keywords

yapay zekâ, kişisel veri güvenliği, kvkk, gdpr, federe öğrenme, sohbet robotları

References

• A. Süzen, K. Kayaalp, “Büyük Verilerde Gizlilik Tabanlı Yaklaşım: Federe Öğrenme”, International Journal of 3d Printing Technologies and Digital Industry, 3(3), 297-304, 2019.
• İnternet: M.V. Dülger, Yapay Zekâ Teknolojileri ve Veri Koruma Hukuku, https://www.researchgate.net/publication/349552759, 14.12.2021.
• L. Mitrou, “Data Protection, Artificial Intelligence and Cognitive Services: Is The General Data Protection Regulation (GDPR) ‘Artificial Intelligence-Proof’?”, SSRN Electronic Journal (3386914), 2018.
• Ş. Eroglu, “Dijital Yaşamda Mahremiyet (Gizlilik) Kavramı ve Kişisel Veriler: Hacettepe Üniversitesi Bilgi ve Belge Yönetimi Bölümü Öğrencilerinin Mahremiyet ve Kişisel Veri Algılarının Analizi”, Hacettepe Üniversitesi Edebiyat Fakültesi Dergisi, 35(2), 130-153, 2018.
• D. Kamarinou, M. Christopher, S. Jatinder, “Machine Learning with Personal Data”, Queen Mary University of London, School of Law Legal Studies Research Paper 247/2016, 2016.
• L. Li, F. Yuxi, M. Tse, K. Lin, “A Review of Applications in Federated Learning”, Computers & Industrial Engineering, 149(5), 2020.
• K. Chandiramani, D. Garg, N. Mahesvari, “Performance Analysis of Distributed and Federated Learning Models on Private Data”, Procedia Computer Science, 165, 349-355, 2019.
• Y. Wang, Y. Tong, D. Shi, “Federated Latent Dirichlet Allocation: A Local Differential Privacy Based Framework”, Proceedings of the AAAI Conference on Artificial Intelligence, 34(04), 6283-6290, 2020.
• A. A. Süzen, M. A. Şimşek, “A Novel Approach to Machine Learning Application to Protection Privacy Data in Healthcare: Federated Learning” Namık Kemal Tıp Dergisi, 8(1), 22-30, 2020.
• Y. Canbay, Y. Vural, Ş. Sağıroğlu, "Mahremiyet Korumalı Büyük Veri Yayınlama İçin Kavramsal Model Önerileri", Politeknik Dergisi, 23(3), 785-798, 2020.
• İnternet: Türkiye Cumhuriyeti Cumhurbaşkanlığı Dijital Dönüşüm Ofisi, AçıkVeri Projesi, https://cbddo.gov.tr/projeler/acik-veri/, 13.12.2021.
• İnternet: Kişisel Verileri Koruma Kurumu, Yapay Zekâ Alanında Kişisel Verilerin Korunmasına Dair Tavsiyeler, https://www.kvkk.gov.tr/Icerik/7048/Yapay-Zekâ-Alaninda-Kisisel-Verilerin-Korunmasina-Dair-Tavsiyeler, 15.12.2021.
• İnternet: Kişisel Verileri Koruma Kanunu, https://www.mevzuat.gov.tr/mevzuat?MevzuatNo=6698&MevzuatTur=1&MevzuatTertip=5, 14.12.2021.
• İnternet: Kişisel Verileri Koruma Kurumu, 100 Soruda Kişisel Verilerin Korunması Kanunu, https://www.kvkk.gov.tr/SharedFolderServer/CMSFiles/185c2130-8070-4b2b-a91e-1d48322ca352.pdf, 26.09.2022.
• O. Sarı, “Yapay Zekânın Sebep Olduğu Zararlardan Doğan Sorumluluk”, Türkiye Barolar Birliği Dergisi, 147, 251-312, 2020.
• Council of Europe, Guidelines on Artificial Intelligence and Data Protection, Directorate General of Human Rights and Rule of Law, 01, Fransa, 2019.
• A. Akıncı, Büyük Veri Uygulamalarında Kişisel Veri Mahremiyeti, T.C. Cumhurbaşkanlığı Strateji ve Bütçe Başkanlığı Uzmanlık Tezi, 2019.
• The Norwegian Data Protection Authority Committee, Artificial Intelligence and Privacy Report, Norwegian Data Protection Authority, Norwegian, 2018.
• O. Choudhury, A. Gkoulalas-Divanis, T. Salonidis, I. Sylla, Y. Park, G. Hsu, A. Das, “Differential Privacy-enabled Federated Learning for Sensitive Health Data”, arXiv:1910.02578, 2020.
• M. Pettai, P. Laud, “Combining Differential Privacy and Secure Multiparty Computation”, Proceedings of the 31st Annual Computer Security Applications Conference, 421-430, 2015.
• İnternet: M. A. Sarıkaya, Yapay Zekâ ve Mahremiyet, https://medium.com/@sarikayameh?source=post_page-45f8731736-, 11.12.2021.
• K. Hu, Y. Li, M. Xia, J. Wu, M. Lu, S. Zhang, L. Weng, "Federated Learning: A Distributed Shared Machine Learning Method", Complexity, 2021(2), 1-20, 2021.
• İnternet: R. Yeşil, Federated Learning, https://medium.com/datarunner/federe-%C3%B6%C4%9Frenme-federated-learning-8ad87791c0b5, 12.12.2021.
• T. Yang, G. Andrew, H. Eichner, H. Sun, W. Li, N. Kong, D. Ramage, F. Beaufays, “Applied Federated Learning: Improving Google Keyboard Query Suggestions”, arXiv:1812.02903, 2018.
• İnternet: F. Hartman, Federated Learning for Firefox, https://florian.github.io/federated-learning-firefox/, 14.12.2021.
• İnternet: Intel Works with University of Pennsylvania in Using Privacy-Preserving AI to Identify Brain Tumors, https://newsroom.intel.com/news/intel-works-university-pennsylvania-using-privacy-preserving-ai-identify-brain-tumors/#gs.oak7q9, 01.02.2022.
• J. Vogel, Chatbots: Development and Applications, Yüksek Lisans Tezi, HTW Berlin University of Applied Sciences, International Media and Computing Faculty, 2017.
• Z. Seyitoğlu, Türkiye’de Dijital Halkla İlişkilerde Değişen Müşteri Deneyimi: Chatbot Uygulamaları, İstanbul Kültür Üniversitesi, Yüksek Lisans Tezi, Mayıs 2019.
• İnternet: Türkiye Cumhuriyeti Ticaret Bakanlığı, Chatbot Kurgusunun Yapılması, https://www.eticaret.gov.tr/cevrimiciegitim/chatbot-kurgusunun-yapilmasi-64, 10.12.2021.
• İnternet: H. Charatan, Chatbots vs. GDPR, https://chatamo.com/chatbots-vs-gdpr-interact/, 13.12.2021.
• İnternet: Yapay Zekâ Reklamcılığı ve Kişisel Verilerin korunması, https://cukurpartners.com/tr/yapay-zeka-reklamciligi-ve-kisisel-verilerin-korunmasi, 26.10.2022.
• İnternet: Google Formlar (Google Forms), https://www.google.com/intl/tr_tr/forms/about/, 31.01.2022.
• A. Cavoukian, Privacy by Design, The 7 Foundational Principles Implementation and Mapping of Fair Information Practices, Information & Privacy Commissioner, Canada, 2010.