Liability in Administrative Action Performed by Artificial Intelligence

Year 2024, Volume: 10 Issue: 1, 169 - 215, 27.07.2024

Çolpan Mücahit Küçük

Abstract

The functions and responsibilities of the modern state are being reshaped in parallel with social developments. The greatest force that affects this process most profoundly and even pushes it towards restructuring is technological development. Indeed, as technological developments have made it possible to produce more units of work in a shorter time, the need for human labour has decreased. Again, these developments have continued to evolve gradually in a way to reduce human intervention. The impact of technological developments in the field of artificial intelligence, which is a comprehensive branch of computer sciences and can be described as information technology that performs tasks that require biological brain power such as understanding spoken language, learning behaviours and/or problem solving, on the relations between administrations and society is a subject worthy of research. On the other hand, artificial intelligence raises many new structural and legal questions. For this reason, it is necessary to first define the concept of artificial intelligence and to make determinations on the point of responsibility in the event that the administration carries out its operations through artificial intelligence. As a matter of fact, the responsibilities of the administration, the robotic engineer, the programmer, the operator and the user should be determined in the administrative action in which artificial intelligence is used. In this article, the responsibility of the administration is evaluated in relation to current artificial intelligence applications and in cases that may arise if artificial intelligence is given personality. In addition, robots equipped with artificial intelligence are also mentioned in the study, and although the concepts of robot and artificial intelligence have different meanings, the concept of robot is used to define machines with physical existence managed by artificial intelligence. Considering that robots have started to be an element of the ideals of combining cyber life and social life, which is a part of human-centred society studies, it is predicted that they will take more place in our lives. For this reason, the issue of whether artificial intelligence machines, which exist only as a programme and have a physical form, can be included in our lives as victims or perpetrators in the context of the law of liability has also been evaluated in the study.

Keywords

Artificial intelligence, administrative action, responsibility

YAPAY ZEKÂ TARAFINDAN GERÇEKLEŞTİRİLEN İDARİ İŞLEMDE SORUMLULUK

Abstract

Modern devletin işlevleri ve sorumlulukları toplumsal gelişmelere paralel biçimde yeniden şekillenmektedir. Söz konusu süreci en derinden etkileyen ve hatta yeniden yapılanmaya doğru iten en büyük güç ise, teknolojik gelişmedir. Gerçekten de teknolojik gelişme bir yandan çok daha kısa sürede çok daha fazla birim iş üretmek suretiyle insan emeğine olan ihtiyacı azaltmış; bir yandan da yavaş yavaş insan müdahalesini azaltacak biçimde evrimleşmeye devam etmiştir. Özellikle bilgisayar bilimlerinin geniş kapsamlı bir dalı olan ve konuşulan dili anlamlandırma, davranışları öğrenme veya problem çözme gibi biyolojik beyin gücü gerektiren görevleri yerine getiren bilgi teknolojisi olan yapay zekâ alanındaki teknolojik gelişmelerin idareler ve toplum arasındaki ilişkilere etkisi de araştırılmaya değer bir konu olarak karşımıza çıkmaktadır. Öte yandan yapay zekâ birçok yeni yapı ve hukuki soruyu gündeme getirmektedir. Bunun için öncelikle yapay zekâ kavramını tanımlamak ve idarenin işlemlerini yapay zekâ vasıtasıyla gerçekleştirmesi halinde sorumluluk noktasında belirlemeler yapmak icap etmektedir. Nitekim idari işlemden idarenin, robotik mühendisinin, programcının, operatörün ve kullanıcının sorumlulukları belirlenmelidir. Makalede güncel yapay zekâ uygulamalarına ilişkin ve yapay zekâya kişilik verilmesi halinde oluşabilecek durumlarda idarenin sorumluluğu değerlendirilmiş, yapay zekâ ile donatılan robotlara değinilmiş ve her ne kadar robot ve yapay zekâ kavramları farklı anlamlar içerse de robot kavramı, yapay zekâ ile yönetilen fiziksel varlığı olan makineleri tanımlamak üzere kullanılmıştır. Bu noktada insan merkezli toplum çalışmalarının bir parçası olan siber yaşamla sosyal yaşamı birleştirme ideallerinin bir ögesinin de yaşamlarımızda daha çok yer alacağı öngörülen ve fiziksel bir biçime sahip yapay zekâlı bu makinelerin sorumluluk hukuku bağlamında mağdur ya da fail olarak hayatlarımıza dahil olup olamayacağı hususu da değerlendirilmiştir.

Keywords

yapay zeka, idari işlem, sorumluluk

References

• Al Enazi Ali, “Gen Alpha and AI set to disrupt wealth management industry, argue futurists”, (21.05.2024). https://www.pwmnet.com/gen-alpha-and-ai-set-to-disrupt-wealth-management-industry-argue-futurists
• Akyılmaz, Bahtiyar &, Sezginer, Murat & Kaya Cemil, Türk İdare Hukuku, Seçkin Ankara 2023.
• Armağan, Tuncay, İdarenin Sorumluluğu ve Tam Yargı Davaları, Seçkin Yayıncılık, Ankara 1997.
• Atay, E. Ethem, İdare Hukuku, Turhan Kitabevi, 2023 Ankara.
• Atay, E. Ethem / Odabaşı Hasan / Gökcan, Hasan Tahsin, Teori ve Yargı Kararları Işığında İdarenin Sorumluluğu ve Tazminat Davaları, Seçkin Yayınevi, Ankara, 2003, Yılmaz, Ejder, Hukuk Sözlüğü, (2017), 7. Baskı, Yetkin Yayınları, Ankara.
• Azrak, Ali Ülkü, “İdarenin Toplumsal Muhatara (Sosyal Risk) Kuramına Göre Kusursuz Sorumluluğu”, Sorumluluk Hukukunda Yeni Gelişmeler III Sempozyumu (Ankara, 12- 13 Mayıs 1979), İstanbul Hukuk Fakültesi, Yayın No: 622, 1980.
• Bak, Başak. “Medeni Hukuk Açısından Yapay Zekânın Hukuki Statüsü ve Yapay Zekâ Kullanımından Doğan Hukuki Sorumluluk”,Türkiye Adalet Akademisi Dergisi, sy. 35 (Temmuz 2018): 211-32.
• Balta, K. Büşra, Fikir ve Sanat Eserleri Kanunun Kapsamında Eser Kavramı ve Yapay Zekâ Ürünleri, Seçkin Yayınevi, Ankara, 2021.
• Benli, Erman & Gayenur Şenel. “Yapay Zekâ ve Haksız Fiil Hukuku”. Ankara Sosyal Bilimler Üniversitesi Hukuk Fakültesi Dergisi 2, Sy. 2 (Aralık 2020): 296-336
• Berberoğlu, İbrahim, “Genel Hatlarıyla Devletin Hukuki Sorumluluğuna İlişkin İlkeler”, Danıştay Dergisi, Yıl:40, Sayı:124, 2010: 11-16.
• Caşın, Mesut &Dursun Al & Nur Dinemis Başkır. “Yapay Zekâ ve Robotların Eylemlerinden Kaynaklanan Cezai Sorumluluk Sorunu”. Ankara Barosu Dergisi 79, sy. 1 (Haziran 2021): 1-73.
• Cellan-Jones Rory, “Hawking: Yapay zeka insanlığın sonunu getirebilir” (02.12.2014), https://www.bbc.com/turkce/haberler /2014/12/141202_hawking_yapay_zeka
• Coulson Shea / Hunt Trevor “How artificial intelligence will change administrative law: The Government of Canada’s Directive on ‎automated decision-making”, (24.05.2023)
• https://www.lexology.com/library/ detail. aspx?g=fd86e808-9237-42ef-b532-c72ddceee630, (E.T. 07.03.2024).
• Çağlayan, Ramazan, Tarihsel, Teorik ve Pratik Yönleriyle İdarenin Kusursuz Sorumluluğu, Asil Yayın Dağıtım Ltd Şti, Ankara 2007.
• Çalış Duman, Meral, “Toplum 5.0: İnsan Odaklı Dijital Dönüşüm”, Journal of Social Policy Conferences, Sayı: 82, 2022: 309-36
• De Spiegeleire, Stephan; Maas, Matthijs Michiel; Sweijs, Tim,” Artificial Intelligence And The Future Of Defense: Strategic Implicatıons For Small- And Medium-Sized Force Providers”, Hague Centre For Strategic Studies (2017): 25-42.
• Delblond, Antoine, Droit Administratif, Larcier, Brüksel 2009.
• Erdoğan, Gökhan, “Yapay Zekâ ve Hukukuna Genel Bir Bakış”, Adalet Dergisi, Sayı: 66, 2021: 117-92.
• Eren, Fikret, Sorumluluk Hukuku Açısından Uygun İlliyet Bağı Teorisi, Sevinç Matbaası, 1975, Ankara.
• Eroğlu Durkal, Müzeyyen, “Tam Yargı Davalarında Manevi Tazminat”, TBB Dergisi C. 131, Sayı:1 (2017): 179-210.
• Ezzeddine Yasmine/Bayerl Petra Saskia / Gibson Helen (2023) “Safety, privacy, or both: evaluating citizens’ perspectives around artificial intelligence use by police forces”, Policing and Society, 33:7, 861-876
• Forges, Jean-Michel Lemoyne de, Droit Administratif, Universitaires de France – PUF, 2002. Gabriel Hallevy, When Robots Kill. Artificial Intelligence Under Criminal Law, Northeastem University Press, Boston 2013
• Georgian-Marcel Husti, "May Artificial Intelligence Have Criminal Capacity?," Pro Lege Review (Revista Pro Lege) 2022, no. 2 (2022): 37-68
• Goyal, Annanay, "Regulating Artificial Intelligence: An Indian Standpoint", Supremo Amicus, 18, 2020: 122-128. Görgülü, Ülfet-Kesgin, Sena. “Yapay Zekâ Robotlara Ahlâki ve Hukuki Statü Tanınması Problematiği -İslam Ahlâkı ve Hukuku Açısından Bir Değerlendirme”. Recep Tayyip Erdoğan Üniversitesi İlahiyat Fakültesi Dergisi 20 (2021), 37-65.
• Harris, Jeanne, Davenport, Thomas, “Automated Decision Making Comes of Age” , MIT Sloan Management Review, 46(4), 2005:2-10.
• Joh Elizabeth E., "Artificial Intelligence and Policing: First Questions," Seattle University Law Review 41, no. 4 (Summer 2018): 1139-1144
• Kalabalık, Halil, İdare Hukukunun Temel Kavram ve Kurumları, Sayram Yayınları, 2014 Konya.
• Kammerer, Brittany, "Hired by a Robot: The Legal Implications of Artificial Intelligence Video Interviews and Advocating for Greater Protection of Job Applicants", Iowa Law Review, vol. 107, no. 2, January 2022: 817-850. Kaplan, Gürsel, “İdarenin Sağlık Kamu Hizmetinin Yürütülmesinden Kaynaklanan Hukuki Sorumluluğu Alanında Yeni Gelişmeler”, Askeri Yüksek İdare Mahkemesi Dergisi, Sayı: 19, Kitap:1 (2004) (https://www.idare.gen.tr/kaplan-saglik.htm, E.T. 26.01.2022).
• Karataş, Esra, ve Uğur Karaca. “Yapay Zeka Tarafından Meydana Getirilen Fikri Ürünlerin 5846 Sayılı Fikir Ve Sanat Eserleri Kanununa Göre Korunması”. Maltepe Üniversitesi Hukuk Fakültesi Dergisi, sy. 1 (Haziran 2022): 17-50.
• Katruff, Ceren Soydan, Roma Hukukunda Kölelik Kavramıyla Günümüzdeki Yapay Zekâ Kavramının Haksız Fiil Hukuku Bakımından Karşılaştırılması, Yayınlanmamış Doktora Tezi, Ankara Üniversitesi, Ankara 2023.
• Leenes, Ronald, and Federica Lucivero, "Laws on Robots, Laws by Robots, Laws in Robots: Regulating Robot Behaviour by Design", Law, Innovation and Technology, vol. 6, no. 2, December 2014: 193-220.
• Lima Dafni, "Could AI Agents Be Held Criminally Liable: Artificial Intelligence and the Challenges for Criminal Law," South Carolina Law Review 69, no. 3 (Spring 2018): 677-696.
• Oberdoff, Henry “La transformation numérique de l’administration publique”, Revue du droit public, Septembre 2020.
• Oswald Marion, “Algorithmic risk assessment policing models: lessons from the Durham HART model and ‘exper imental’ proportionality”, Information & communications technology law, 27 (2), 223–250. Özkan Şahin, Gizem/ Çağatay Şahin. “Yapay Zekalı Varlıklara Elektronik Kişilik Modeli Tanınmasına İlişkin Eurobotıcs Raporu ve Fikri Mülkiyet Sorunu Bağlamında Meseleye Yaklaşım”. İnönü Üniversitesi Hukuk Fakültesi Dergisi 13, sy. 1 (Haziran 2022): 110-128
• Öztürkler, Cemal, “Uygulamanın İçinden Ölüm ve Bedeni Zarar Hallerinde Maddi Tazminatın Hesaplanması”, Seçkin Yayınları, Ankara 2003.
• Philip, Anna, Biju &Colleen, & Philip, Anu, "Understanding the Necessity of Rebooting Copyright Las in Context of the Advancement of Artificial Intelligence", Nyaayshastra Law Review, vol. 3, no. 2, 2023: 1-24. Riedl, Mark O. “Human-centered artificial intelligence and machine learning”, Human Behavior and Emerging Technologies, Vol 1, Issue 1, 2019: 33-36.
• Sagdeo, Parth Lalit, "Blending Machine Intelligence with Natural Intelligence: Artificial Intelligence and Law", International Journal of Law Management & Humanities, 3, 2020: 1215-1224.
• Sancakdar, Oğuz & Önüt, Lale Burcu & Us Doğan, Eser, & Kasapoğlu Turhan, Mine & Seyhan, İdare Hukuku Teorik Çalışma Kitabı, Seçkin, Ankara 2022.
• Sarıca, Ragıp, “Hizmet Kusuru ve Karakterleri”, İÜHFD C. XV, Yıl. 15, sy. 4, 1949, s. 858- 895.
• Sarsıkoğlu, Şenel, “İdarenin Mali Sorumluluğu Açısından Zarar Kavramı”, Ankara Üniversitesi Hukuk Fakültesi Dergisi, 65 (4) 2016: 2389-2422.
• Say, Cem (2018),“50 Soruda Yapay Zeka”, 7 Renk Basım Yayın ve Filmcilik Ltd. Şti, İstanbul. Shneiderman Ben, Human-Centered AI, Oxford University Press, February 2022.
• Singh, Arundhati, "An Overview of Artificial Intelligence and Law", International Journal of Law Management & Humanities, 4, 2021: 1432-1439.
• Sobel, Benjamin L. W. "Artificial Intelligence's Fair Use Crisis." Columbia Journal of Law & the Arts, vol. 41, no. 1, 2017, pp. 45-98.
• Şaşı, Murat, Mülkiyet Hakkı İhlallerinde İdarenin Hukuki Sorumluluğu Avrupa İnsan Hakları Mahkemesi Anayasa Mahkemesi, Yargıtay ve Danıştay Kararları Işığında, Yetkin Yayınları, Ankara 2019.
• Tegmark, Max, “Life 3.0: Being Human in the Age of Artificial Intelligence”, Alfred A. Knopf, US, 2017. Trivedi, Nishtha Anil, "Can a Robot Act as a Witness?", Indian Journal of Law and Legal Research, 5, 2023: 1-19. Uguen Marianne “Le recours aux algorithmes dans l’action publique”, https://www.sciencespo.fr/ecole-affaires-publiques/sites/sciencespo.fr.ecole-affaires-publiques/files/UGUEN.pdf
• Ulenaers, Jasper, "The Impact of Artificial Intelligence on the Right to a Fair Trial: Towards a Robot Judge?", Asian Journal of Law and Economics, vol. 11, no. 2, August 2020: 1-38.
• Ünal, Mehmet, “Nedensellik Bağı”, Türkiye Noterler Birliği Dergisi, Sayı 111, (2001) :47-52.
• Üren Çağla, “Yapay zekâ kendi gizli dilini yarattı”, (06.06.2022). https://www.indyturk.com/node/518661/bi%C2%B7li%C2%B7m/yapay-zeka-kendi-gizli-dilini-yaratt%C4%B1
• van Berkel, N., Tag, B., Goncalves, J., & Hosio, S. (2020), “Human-Centred Artificial Intelligence: A Contextual Morality Perspective”, Behaviour and Information Technology
• van den Berg, Bibi, “Robots as Tools for Techno-Regulation” Law, Innovation and Technology 3, no. 2 (2011): 319-334
• van der Linden, Tina. "Regulating Artificial Intelligence: Please Apply Existing Regulation." Amsterdam Law Forum, vol. 13, no. 3, Autumn 2021, pp. [3]-[8]. HeinOnline.
• Veruggio, Gianmarco, (2005, 18 Nisan). The Birth of Roboethics. IEEE International Conference on Robotics and Automation Workshop on Robo-Ethics Barcelona, https://philarchive.org/rec/VERTBO-3 E.T
• Winner, Langdon, Autonomous Technology: Technics-out-of-Control as a Theme in Political Thought, M.I.T. Press, 1977.
• Will Douglas Heaven, “Predictive policing algorithms are racist They need to be dismantled”, MIT Tecnology Review (17.07.2020) https://www.technologyreview.com /2020/07/17/1005396/.
• Yasin, Melikşah, “Sigortacının Kanuni Halefiyeti Müessesinin İdarenin Sorumluluğu Alanında Uygulanması”, Journal of Istanbul University Law Faculty, c. 71, sy. 1, 2013, ss. 1229-42.
• Yayla, Ahmet, İdare Hukuku Bakımından Yapay Zekâ İdarenin Faaliyetleri, Yapay Zekâlı İdari İşlemler ve Sorumluluk, Seçkin, Ankara 2023.
• Yıldırım, Turan, Yasin, Melikşah, Kaman, Nur, Özdemir, H. Eyüp, Üstün, Gül, Çakır, Hüseyin Melih, Okay Tekinsoy, Özge), İdare Hukuku, On İki Levha Yayınları, İstanbul 2020.
• Yıldız, Hayrettin. (2015). İdarenin Sosyal Risk Sorumluluğunda İlliyet Bağı Meselesi, Türkiye Barolar Birliği Dergisi, S. 116, s. 135-178.
• Yılmaz, Ejder, Hukuk Sözlüğü, Yetkin Yayınları, Ankara 2017.
• Zehir, Emre Ömer “Kargo Şirketinin Yapay Zekâ Sohbet Botu Müşteriye Küfretti” (22.01.2024). https://www.webtekno.com/kargo-sirketinin-yapay-zek-sohbet-botu-musteriye-kufretti-h140299.html
• İnternet Kaynakları: https://www.bilgiedinmehakki.org/blog/2006/10/12/genel-idari-usul-tasarisi/
• http://www.europarl.europa.eu/committees/fr/supporting-analyses-search.html.
• https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai#:~:text=The%20AI%20act%20ensures%20that,address%20to%20avoid%20undesirable%20outcomes.
• https://etikblog.com/avrupa-birligi-yapay-zeka-yasasi/
• https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai#:~:text=The%20AI%20act% 20ensures% 20 that,address%20to%20avoid%20undesirable%20outcomes.
• https://clawar.org/wp-content/uploads/2019/11/ICRES2019_p64_paper_4.pdf https://www.aa.com.tr/tr/dunya/fransada-kamu-gorevlileri-zaman-tasarrufu-icin-yapay-zekayi-deneyimleyecek/2980336
• https://www.sciencedirect.com/science/article/pii/S0267364918303753
• https://www.researchgate.net/publication/355495908_Ethics-Based_Auditing_of_Automated_Decision-Making_Systems_Nature_Scope_and_Limitations https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592 https://casetext.com/case/hous-fedn-of-teachers-v-hous-indep-sch-dist
• https://www.sciencedirect.com/science/article/pii/S0267364918303753)
• https://en.wikipedia.org/wiki/Death_of_Elaine_Herzberg
• https://www.europarl.europa.eu/RegData/etudes/STUD/2016/571379/IPOL_STU(2016)571379_EN.pdf
• https://www.gunhaber.com.tr/haber/Nijerya-Hava-Kuvvetleri-yanlislikla-sivilleri-bombaladi/531674#:~:text=Nijerya%20Hava%20Kuvvetleri'ne%20(NAF,68%20ki%C5%9Finin%20ise%20yaraland%C4%B1%C4%9F%C4%B1%20duyurdu. https://www.iha.com.tr/haber-rusya-ukrayna-yerine-yanlislikla-kendi-topraklarini-bombaladi-1164656.