THE DARK SIDE OF ARTIFICIAL INTELLIGENCE ON THE BASIS OF PUBLIC ADMINISTRATION

Abstract

Artificial intelligence (AI) is used to build robots that understand, monitor, reason, predict, interact, learn, develop and work like humans and solve complex problems. The world is changing rapidly, robots are getting to the level where people can take their jobs, and in the future, perhaps, we are evolving into a world where robots and humans are the main actors. However, a lot of countries have recognized the serious effect of the AI on effectiveness, security, social and welfare. AI systems cause severe worries about the rule of law, equality and human rights and the possibility of the biased AI cause concerns in societies. Especially as the use of AI becomes widespread in the public administration, the emergence of the discrimination disturbs public administrators. This study focuses on the discrimination and bias problems of AI in the public administration, addresses the discrimination that arises in the AI applications in the public administration, evaluates in which areas biased problems and discriminative behaviours are most applied, and focuses on possible risks.

Keywords

• Artificial Intelligence
• Discrimination
• Fundamental Rights
• Public Administration
• Technology

KAMU YÖNETİMİ TEMELİNDE YAPAY ZEKÂNIN KARANLIK YÜZÜ

Abstract

Yapay zekâ, insanlar gibi anlayan, izleyen, akıl yürüten, tahmin eden, etkileşim kuran, öğrenen, geliştiren, çalışan ve karmaşık sorunları çözen robotlar oluşturmak için kullanılır. Dünya hızla değişmekte, robotlar insanların işlerini ellerinden alacak seviyeye gelmekte ve gelecekte belki de robotların ve insanların baş aktör olduğu bir dünyaya doğru evrilmekteyiz. Bununla birlikte, birçok ülke yapay zekânın etkinlik, güvenlik, sosyal hayat ve refah üzerindeki ciddi etkisini kabul etmiştir. Yapay zekâ sistemleri, hukukun üstünlüğü, eşitlik ve insan hakları konusunda ciddi endişelere yol açmakta ve yapay zekânın ön yargılı olma olasılığı toplumlarda endişelere neden olmaktadır. Özellikle kamu yönetiminde yapay zekâ kullanımı yaygınlaşırken ayrımcılığın ortaya çıkışı kamu yöneticilerini tedirgin etmektedir. Bu çalışma, kamu yönetiminde yapay zekânın ayrımcılığına ve ön yargı sorununa odaklanmakta, kamu yönetiminde yapay zekâ uygulamalarında ortaya çıkan ayrımcılığı ele almakta, önyargı sorunlarının ve ayrımcı davranışların en çok hangi alanlarda uygulandığını değerlendirmekte ve olası risklere odaklanmaktadır.

Keywords

• Yapay Zekâ
• Ayrımcılık
• Temel Haklar
• Kamu Yönetimi
• Teknoloji

References

1. Avaner, E. B. (2018). “Turing Testi Işığında Düşüncenin Multidisipliner İncelemesi III”. Türkiye Biyoetik Dergisi, 5 (4), 183-192.
2. Babuta, A., and M. Oswald (2009). Data Analytics and Algorithmic Bias in Policing. London: Centre for Data Ethics and Innovation, Royal United Services Institute for Defence and Security Studies.
3. Barocas, S., and A. D. Selbst (2016). "Big Data’s Disparate Impact". Calif Law Rev, 104 (3), 671-732.
4. Baron-Cohen, S. (1995). Mindblindness: An Essay on Autism and Theory of Mind. Cambridge, Massachusetts: The MIT Press.
5. Berkün, S. (2017). "Kamu Açısından Yönetim". Emek ve Toplum, 6 (16), 638-663.
6. Berman, J., A. V. Cook and J. Dajee (2019). Intelligent Interfaces: Reimagining The Way Humans, Machines, And Data Interact. https://www2.deloitte.com/xe/en/insights/focus/tech-trends/2019/human-interaction-technology-intelligent-interface.html (03.09.2023)
7. Borgesius, F. Z. (2018). Discrimination, Artificial Intelligence, and Algorithmic Decisionmaking. Strasbourg: Directorate General of Democracy, Council of Europe.
8. Burgess, C. (n.d.). Bias, Discrimination, and/or Harassment. https://inclusive.princeton.edu/addressing-concerns/bias-discrimination-harassment#:~:text=Bias%20is%20a%20broad%20category,or%20beliefs%20or%20their%20expression (01.08.2023)

9. Burgess, M. (2018). UK Police Are Using AI to Inform Custodial Decisions – But It Could Be Discriminating Against the Poor. https://www.wired.co.uk/article/police-ai-uk-durham-hart-checkpoint-algorithm-edit (01.08.2023).
10. Cashmore, E. (1988). Dictionary of Race and Ethnic Relations. London: Routledge.
11. Ceylan, T. F. (2020). Yapay Zeka Türleri Nelerdir? Yapay Zekanın Tarihçesi. https://www.novacore.com.tr/yapay-zeka-turleri-nelerdir-yapay-zekann-tarihcesi.html (19.07.2021)
12. Chella, A., A. Pipitone, A. Morin, and F. Racy (2020). Developing Self-Awareness in Robots via Inner Speech. Front. Robot. AI, 7 (16), 1-15.
13. Cherry, K. (2023). How the Theory of Mind Helps Us Understand Others. https://www.verywellmind.com/theory-of-mind-4176826 (03.09.2023)
14. Criado, J. S., and C. F. Aller (2021). "A Wide Human-Rights Approach to Artificial Intelligence Regulation in Europe". IEEE Technology and Society Magazine, 40 (2), 55-65.
15. Costello, S. (2023). The Four Types of Artificial Intelligence. https://www.lifewire.com/four-types-of-artificial-intelligence-5112620 (02.09.2023)
16. Council of Europe. (n.d.). AI & Discrimination. https://www.coe.int/en/web/inclusion-and-antidiscrimination/ai-and-discrimination (03.09.2023)
17. Cuzzolin, F., A. Morelli, B. Cîrstea and B. Sahakian (2020). "Knowing Me, Knowing You: Theory of Mind in AI". Psychological Medicine, 50, 1057–1061.
18. Çelik, A., and H. Akca (2021). "Değer Odaklı Bir Yönetim Yaklaşımı: Kamu Değeri". Dicle Üniversitesi Sosyal Bilimler Enstitüsü Dergisi, (28), 376-404.
19. Çinici, M., and M. Kızılgeçit (2023). "Yapay Zekâ ve Din Psikolojisi". Diyanet İlmî Dergi, 59, 745-768.
20. Dağ, A. (2021). Dijitalleşme-Yapay Zekâ-Transhümanizm Bağlaminda Din Ve Dindar’a Dair. Yapay Zekâ Transhümanizm ve Din. (Eds. M. Kizilgeçi̇t, M. Kızılgeçit, M. Yeşilyurt, R. Ertugay and E. Çinici). Ankara: DİB Yayınları.
21. Dastin, J. (2018). Amazon Scraps Secret AI Recruiting Tool That Showed Bias Against Women. https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G (08.08.2021)
22. Dore, F. (2012). "Güçlü Yapay Zekâya Karşı Çin Odası Argümanı". Sosyal Bilimler Dergisi, 16 (1), 23-38.
23. Erten, Ş. (2021). "Kamu Değeri: Tanımı Ve Ölçülmesi Üzerine Bir Inceleme". Ömer Halisdemir Üniversitesi İktisadi ve İdari Bilimler Fakültesi Dergisi, 14 (1), 104-125.
24. Fair Trials. (2022). FOI Reveals Over 12,000 People Profiled By Flawed Durham Police Predictive AI Tool, https://www.fairtrials.org/articles/news/foi-reveals-over-12000-people-profiled-by-flawed-durham-police-predictive-ai-tool/(01.08.2023).
25. Friedman, B., and H. Nissenbaum (1996). "Bias in Computer Systems". ACM Transactions on Information Systems (TOIS), 14 (3), 330–347.
26. Gershgorn, D. (2017). The Quartz Guide To Artificial Intelligence: What Is It, Why Is It Important, And Should We Be Afraid? https://qz.com/1046350/the-quartz-guide-to-artificial-intelligence-what-is-it-why-is-it-important-and-should-we-be-afraid (02.09.2023)
27. Göregenli, M. (2012). Önyargıyı ve Ayrımcılığı Azaltmak. Ayrımcılık: Çok Boyutlu Yaklaşımlar. (Eds. K. Çayır and M. A. Ceyhan). İstanbul: Bilgi Üniversitesi Yayınları.
28. Gürgüze, G., and İ. Türkoğlu (2019). "Kullanım Alanlarına Göre Robot Sistemlerinin Sınıflandırılması". Fırat Üniversitesi Müh. Bil. Dergisi, 31 (1), 53-66.
29. Idder, A., and S. Coulaux (2021). Artificial Intelligence In Criminal Justice: Invasion or Revolution? https://www.ibanet.org/dec-21-ai-criminal-justice (01.08.2023).
30. li´c, M. P., D. P ˘aun, N. Popovi´c Ševi´c, A. Hadži´c and A. Jianu (2021). "Needs and Performance Analysis for Changes in Higher Education and Implementation of Artificial Intelligence, Machine Learning, and Extended Reality". Educ. Sci., 11 (10), 1-18.
31. Jalabi, R., and S. Ackerman (2013). US Navy Makes History by Landing Unmanned Drone on Aircraft Carrier. https://www.theguardian.com/world/2013/jul/10/us-navy-x47b-drone-aircraft-carrier (03.09.2023).
32. Kaplan, J. (2016). "Artificial Intelligence: Think Again". Communications of the ACM, 60 (1), 36-38.
33. Köseoğlu, Ö. and A. Tuncer (2014). "Kamu Yönetiminde Yeni Bir Yaklaşım Olarak Kamu Değeri: Kavramsal ve Kuramsal Açıdan Bir Tartışma". Yönetim Bilimleri Dergisi, 12 (24), 145-170.
34. Lateef, Z. (2023). Types Of Artificial Intelligence You Should Know. https://www.edureka.co/blog/types-of-artificial-intelligence/ (02.09.2023)
35. Lupsha, J. (2023). Could Artificial Intelligence Become Self-Aware? https://www.wondriumdaily.com/could-artificial-intelligence-become-self-aware/ (03.09.2023)
36. Marr, B. (2021). What are the Four Types of AI? https://bernardmarr.com/what-are-the-four-types-of-ai/ (03.09.2023)
37. McCarthy, J. (2007). What is Artificial Intelligence? http://www-formal.stanford.edu/jmc/whatisai.pdf (20.07.2021)
38. Mittelstadt, B. D., P. Allo, M. Taddeo, S. Wachter and L. Floridi (2016). The Ethics of Algorithms: Mapping the Debate. Big Data & Society, 3 (2), 1-21.
39. Moor, J. (2006). "The Dartmouth College Artificial Intelligence Conference: The Next Fifty Years". AI Magazine, 27 (4), 87-91.
40. Moore, M. H. (1995). Creating Public Value: Strategic Management in Government. Cambridge: Harward University Press.
41. Morin, A. (2011). "Self-Awareness Part 1: Definition, Measures, Effects, Functions, and Antecedents". Social and Personality Psychology Compass, 5 (10), 807–823.
42. Muhammad, Z. (2023). Researchers Are Working on an AI Lie Detector, Here’s How it Works. https://www.digitalinformationworld.com/2023/08/researchers-are-working-on-ai-lie.html (03.09.2023)
43. Nilsson, N. J. (2018). Yapay Zeka / Geçmişi Ve Geleceği. (M. Doğan, Trans.) İstanbul: Boğaziçi Üniversitesi.
44. OECD. (2019). Artificial Intelligence in Society. Paris: OECD Publishing.
45. Öney, Z. (2021). "Yapay zekâda Ayrımcılık Toplumun Aynası". Populer Yönetim Dergisi (Peryön), (95), 4-5.
46. Özdemir, G. S. (2019). Artificial Intelligence Application In The Military The Case Of United States And China. İstanbul: SETA.
47. Öztemel, E. (2021). Yapay Zeka ve Din. Yapay Zekâ Transhümanizm ve Din. (Ed. M. Kizilgeçi̇t, M. Kızılgeçit, M. Yeşilyurt, R. Ertugay, and E. Çinici) Ankara: DİB Yayınları.
48. Pasquale, F. (2015). The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge, MA: Harvard University Press.
49. Plano, C. J., and M. Greenberg (1989). The American Political Dictionary. Florida : Holt, Rinehart and Winston, Inc.
50. Prigg, M. (2017). Pentagon to Use AI to Defeat ISIS in Iraq and Syria. https://www.dailymail.co.uk/sciencetech/article-4508874/Pentagon-use-AI-defeat-ISIS.html (03.09.2023)
51. Sağlam, E. (2020). "Ayrımcılık Konusunda Nitel Bir Araştırma: Viyana’daki Türk Göçmenler". Muhafazakar Düşünce Dergisi, 268-295.
52. Searle, J. (1980). Minds, Brains, and Programs., http://cogprints.org/7150/1/10.1.1.83.5248.pdf (20.10.2023).
53. Searle, J. (2004). Zihnin Yeniden Keşfi. (M. Muhittin, Trans.) İstanbul: Litera Yayıncılık.
54. Sintelly. (2020). What is Limited Memory AI? https://sintelly.com/articles/what-is-limited-memory-ai/ (02.09.2023).
55. Sparkes, M. (2023). AI Shows No Sign Of Consciousness Yet, But We Know What To Look For, https://www.newscientist.com/article/2388344-ai-shows-no-sign-of-consciousness-yet-but-we-know-what-to-look-for/ (03.08.2023).
56. Sun, Q., and R. Medaglia (2019). "Mapping the Challenges of Artificial Intelligence in the Public Sector: Evidence from Public Healthcare". Government Information Quarterly, 36 (2), 368-383.
57. Surya, L. (2019). "Artificial Intelligence in Public Sector". Int. J. Innov. Eng. Res. Technol., 6, 7-12
58. Topal, Ç. (2017). "Alan Turing'in Toplumbilimsel Düşünü: Toplumsal Bir Düş Olarak Yapay Zekâ". Ankara Üniversitesi Dil ve Tarih-Coğrafya Fakültesi Dergisi, 57 (2), 1340-1364.
59. Turing, A. M. (1950). "Computing Machinery and Intelligence". Mind., LIX (236), 433–60.
60. Ulaşan, F. (2023). Koronavirüsle Mücadelede Yapay Zekânin Yerinin Kamu Yönetimi Temelinde Değerlendirilmesi. 3. International Mediterranean Congress. (Ed. B. Arslan and M. Erdoğan). Mersin: Iksad Global.
61. Ulaşan, F. (2021). The Use Of Artificial Intelligence In The Public Services: The Case Of Turkish Administrative Jurisdiction. Phd Thesis, Ankara Yildirim Beyazit University Graduate School Of Social Sciences, Ankara.
62. Vogl, T., M. Seidelin, C. Ganesh and J. Bright (2019). "Smart Technology and the Emergence of Algorithmic Bureaucracy: Artificial Intelligence in UK Local Authorities". Public Administration Review, 80 (6), 946–961.
63. Yeşilkaya, N. (2022). "Felsefi Bir Sorun Olarak Yapay Zekâ". Bozok Üniversitesi İlahiyat Fakültesi Dergisi, 22 (22), 97-126.
64. Yıldırımalp, S. (2021). "Ayrımcılık Temelli Dışlanma: Türkiye’de Çalışma Hayatında Kadınlar". Sosyal Güvenlik Dergisi, 11 (2), 321-346.
65. Yüce, A. (2022). Yapay Bilinç Mümkün Mü? Çince Odası Argümanı Nedir?, https://www.soylentidergi.com/yapay-bilinc-mumkun-mu-cince-odasi-argumani-nedir/ (23.10.2023).
66. Yükseköğretim Kurulu. (2019). Geleceğin Meslekleri Çalışmaları. Ankara: Yükseköğretim Kurulu.
67. Zhang, C., and Y. Lu (2021). "Study On Artificial Intelligence: The State Of The Art And Future Prospects". Journal of Industrial Information Integration, 23, 100224.