DELIBERATIONS ON THE LEGAL STATUS OF ARTIFICIAL INTELLIGENCE IN TERMS OF CRIMINAL LIABILITY

Year 2021, Volume: 20 Issue: 41, 1015 - 1042, 30.09.2021

Nursena Çetingül

https://doi.org/10.46928/iticusbe.979344

Cited By: 2

Abstract

Along with the development of technology, AI products have become quite common. The increasing autonomy of these products brings along some probable legal problems. The frequent handling of AI products in science fiction works, their gaining autonomy and their intelligent behavior led to discussions in the doctrine that whether they should be given a special legal status. Along with these discussions, different types of responsibility for artificial intelligence are proposed.
Purpose: Upon realizing that academic studies dealing with the relationship of artificial intelligence with law are often under the influence of popular discourses, this study emphasizes to make it seperated science fiction and reality in advance, in order not to be late in the future, and also emphasizes that legists should consider the issue in a multidisciplinary and professional manner without being affected by science fiction scenarios and popular discourses, and legists' recommendations should be sagacious.
Method: In this study, concepts such as "intelligence, machine thinking" were questioned by referring to the opinions in the national and international literature, and the effects of autonomy in artificial intelligence on responsibility and the issues of "punishability of machines" were discussed. In this study, especially in terms of criminal law, the types of liability proposed in the literature and the issues regarding the legal status of artificial intelligence have been discussed and finally a holistic evaluation of the subject has been made.
Findings: As a result of the study, the following conclusions have been reached; the comparison of artificial intelligence with human intelligence is not meaningful, some predictions in sci-fi scenarios are not compatible with reality, there is no need to give legal status to artificial intelligence, and if legal status will be given, the proposed sanctions will have been unsuitable in accordance with the criminal law & its nature, and individuals such as manufacturers, software developers, users should have been punished according to their intent/negligence in crimes caused by AI. Multidisciplinary studies on this issue are required. Probable problems can be prevented by special and detailed regulations to will be made in the laws.
Originality: The study differs from others with its style that tries to bring a new perspective to the debates on the legal status of artificial intelligence, tends to make a discussion of the subject on a solid evidence-based ground beyond science fiction scenarios, also takes support from psychology and philosophy, and especially avoids using popular language.

Keywords

Artificial intelligence, Legal status of artificial intelligence, Criminal liability of artificial intelligence, Machine thinking, Science fiction and reality

CEZA SORUMLULUĞU BAKIMINDAN YAPAY ZEKÂNIN HUKUKİ STATÜSÜNÜN TARTIŞILMASI

Abstract

Teknolojinin gelişmesiyle beraber, yapay zekâya sahip ürünlerin kullanımı oldukça yaygınlaşmıştır. Bu ürünlerin giderek artan otonomlukları, ortaya çıkabilecek bazı hukuki problemleri de beraberinde getirmektedir. Bu varlıkların bilimkurgu eserlerde sıkça ele alınmaları, bir takım otonomluklar kazanmış olmaları ve zekice hareket etmeleri, kendilerine özel bir hukuki statü verilmesi gerektiğine dair doktrinde tartışmalara yol açmıştır. Bu tartışmalarla beraber, yapay zekaya yönelik farklı sorumluluk türleri önerilmektedir.
Amaç: Yapay zekanın hukukla ilişkisini ele alan akademik çalışmaların sıklıkla popüler söylemler etkisinde kaldığının fark edilmesi üzerine, ileride geç kalınmaması adına bilimkurgu ile gerçekliğin şimdiden ayrıştırılması gerektiği, hukukçuların bilimkurgu senaryolarından ve popüler söylemlerden etkilenmeden konuyu multidisipliner ve profesyonel bir şekilde ele almaları ve tavsiyelerini ferasetli bir şekilde yapmaları gerektiğini vurgulamak amaçlanmıştır.
Yöntem: Bu çalışmada, ulusal ve uluslararası literatürdeki görüşlere müracaat edilerek “zeka, makinelerin düşünebilmesi” gibi kavramlar sorgulanmış, yapay zekalardaki otonomluğun sorumluluğa etkisi ve “makinelerin cezalandırılabilirliği” meseleleri ele alınmıştır. Bu çalışmada özellikle ceza hukuku bakımından literatürde önerilen sorumluluk türleri ve yapay zekaya hukuki statü verilmesine dair meseleler tartışılmış ve nihayet konunun bütüncül bir değerlendirmesi yapılmıştır.
Bulgular: Çalışma neticesinde, yapay zekayı insan zekasıyla karşılaştırmanın doğru olmadığı, bilimkurgu senaryolarında anlatılan birtakım tahminlerin gerçekle bağdaşmadığı, yapay zekaya hukuki statü verilmesine ihtiyaç bulunmadığı, hukuki statü verilmesi durumunda önerilen müeyyidelerin ceza hukukunun amacı ve doğası ile bağdaşmayacağı, yapay zekanın sebep olacağı suçlarda yapay zekanın arkasındaki üretici, yazılımcı, kullanıcı gibi kişilerin kast/taksir durumlarına göre cezalandırılması gerektiği, bu konuda multidisipliner çalışma yapmanın gerekliliği, kanunlarda yapılacak özel ve detaylı düzenlemelerle muhtemel sorunların önüne geçilebileceği sonucuna varılmıştır.
Özgünlük: Çalışma, yapay zekaya hukuki statü verilmesine dair yapılan tartışmalara yeni bir perspektif getirmeye çalışması, konuyu bilimkurgu senaryolarının ötesinde, kanıta dayalı sağlam bir zeminde ve psikoloji bilimi ile felsefeden destek alarak tartışması, bilhassa popüler dili kullanmaktan kaçınmasıyla farklılık arz etmektedir.

Keywords

Yapay zekâ, Yapay zekânın hukuki statüsü, Yapay zekânın cezai sorumluluğu, Makine düşünmesi, Bilimkurgu ve gerçeklik.

References

• (2021, Nisan 22). Moral Machine: https://www.moralmachine.net/ adresinden alındı
• 2918 sayılı Karayolları Trafik Kanunu. (1983, 10 13). ABC News (Australia). (2011, Nisan 29). Kurzweil foresees a human/machine singularity [Video Dosyası].https://www.youtube.com/watch?v=555bsnvbAwA adresinden alındı
• Akbulut, B. (2020). Türk Ceza Hukuku. Ankara.
• Akıncı, Ş. (2016). Roma Hukuku Dersleri. Konya.
• Akkurt, S. S. (2019). Yapay Zekanın Otonom Davranışlarından Kaynaklanan Hukuki Sorumluluk. Uyuşmazlık Mahkemesi Dergisi, 39-59.
• Aksoy, H. (2021). Yapay Zekalı Varlıklar ve Ceza Hukuku. Uluslararası Ekonomi Siyaset İnsan ve Toplum Bilimleri Dergisi, 10-27.
• Alexandre, F. M. (2017, Haziran 12). The Legal Status of Artificially Intelligent Robots: Personhood, Taxation and Control. Tilburg University. doi:http://dx.doi.org/10.2139/ssrn.2985466
• Altunc, S. (2019, Ekim). Robotlar, Yapay Zeka ve Ceza Hukuku. Researchgate: https://www.researchgate.net/publication/336406393_Robotlar_Yapay_Zeka_ve_Ceza_Hukuku adresinden alındı
• Anayasa Mahkemesi Kararı, E. 2017/34, K.2017/24 (AYM Mart 1, 2017).
• Around the Nation; Jury Awards $10 Million In Killing by Robot . (1983, 08 11). 04 22, 2021 tarihinde The New York Times. adresinden alındı
• Ayan, N., & Ayan, M. (2016). Kişiler Hukuku. Ankara.
• Aydemir, M. (2018). Yapay Zekalı Robotların Cezai Sorumluluklarının Araştırılması. Suç ve Ceza(4), 1-97.
• Beyninizi Doğru Kullanmanın İpuçları. (2013, Aralık 20). Temmuz 30, 2021 tarihinde ePsikiyatri Nöropsikiyatri Portalı: https://www.e-psikiyatri.com/beyninizi-dogru-kullanmanin-ipuclari adresinden alındı
• Biswal, A. (2021, Temmuz 10). AI applications: Top 10 Artificial Intelligence Applications. SimpliLearn: https://www.simplilearn.com/tutorials/artificial-intelligence-tutorial/artificial-intelligence-applications adresinden alındı
• Bouzenita, A. I. (2018). "The Most Dangerous Idea?" Islamic Deliberations on Transhumanism. Darulfunun İlahiyat, 201-228. https://dergipark.org.tr/tr/pub/darulfunun/issue/40844/505720 adresinden alındı
• CHAPTER 482A - AUTONOMOUS VEHICLES. (tarih yok). Nisan 22, 2021 tarihinde Nevada Legislature: https://www.leg.state.nv.us/NRS/NRS-482A.html adresinden alındı
• Chomsky, N. (2013, Ekim 5). Noam Chomsky on AI: The Singularity is Science Fiction! (N. Danaylov, Röportaj Yapan) https://www.youtube.com/watch?v=0kICLG4Zg8s adresinden alındı
• Cole, D. (19, Mart 2004). The Chinese Room Argument. Stanford Encyclopedia of Philosophy: https://plato.stanford.edu/entries/chinese-room/ adresinden alındı
• Commissioner for Human Rights. (2019, Mayıs 14). Nisan 22, 2021 tarihinde Council of Europe Portal: https://www.coe.int/en/web/commissioner/-/unboxing-artificial-intelligence-10-steps-to-protect-human-rights adresinden alındı
• Copeland, B. (2021, Nisan 22). Artificial Intelligence. Encyclopedia Britannica: https://www.britannica.com/technology/artificial-intelligence adresinden alındı
• Council of Europe. (1990). Liability of enterprises. Committee of Ministers of the Council of Europe , Publications and Documents Division, Strasbourg.
• Değirmenci, O. (tarih yok). Yapay Zeka ve Ceza Sorumluluğu. Eylül 03, 2021 tarihinde Academia:https://www.academia.edu/42794137/Yapay_Zeka_ve_Ceza_Sorumlulu%C4%9Fu adresinden alındı
• Dickson, B. (2018, Ağustos 21). There’s a huge difference between AI and human intelligence—so let’s stop comparing them. TechTalks: https://bdtechtalks.com/2018/08/21/artificial-intelligence-vs-human-mind-brain/ adresinden alındı
• Dickson, B. (2020, Temmuz 16). Sorry, Elon: Fully Autonomous Tesla Vehicles Will Not Happen Anytime Soon. PCMag: https://www.pcmag.com/opinions/sorry-elon-fully-autonomous-tesla-vehicles-will-not-happen-anytime-soon adresinden alındı
• Doğan, B. (tarih yok). Güvenlik Tedbiri Nedir? Nisan 22, 2021 tarihinde Av. Baran Doğan Hukuk Bürosu: https://barandogan.av.tr/blog/ceza-hukuku/guvenlik-tedbiri-karari-nedir.html adresinden alındı
• Duffy, S. D., & Hopkins, J. P. (2013). Sit, Stay, Drive: The Future of Autonomous Car Liability. Science and Technology Law Review, 16(3), 453-480.
• Feridun Yenisey Hukuk İhtisas Semineri. (2020, Nisan 23). Sinan Altunç-Yapay Zeka ve Ceza Hukuku (22.4.2020) [Video Dosyası]. https://www.youtube.com/watch?v=T7bCKms_wQk adresinden alındı
• Feridun Yenisey Hukuk İhtisas Semineri. (2020, Aralık 2017). Yapay Zeka Kullanımından Doğan Ceza Hukuku Sorumluluğu – Dr Zehra Başer Doğan (16 Kasım 2020) [Video Dosyası]. https://www.youtube.com/watch?v=hfxvcoaOMgA adresinden alındı
• Frankenfield, J. (2021, Nisan 22). Artificial Intelligence (AI). Investopedia: https://www.investopedia.com/terms/a/artificial-intelligence-ai.asp adresinden alındı
• Gardner, H. (1999). Intelligence Reframed: Multiple Intelligences for the 21st Century. . New York: Basic Books.
• Hallevy, G. (2010). The Criminal Liability of Artificial Intelligence Entities - from Science Fiction to Legal Social Control. Akron Intellectual Property, 4(2), 171-201.
• Has the Turing Test Been Passed? (2021, Nisan 22). https://isturingtestpassed.github.io/ adresinden alındı İçer, Z., & Buluz, B. (tarih yok). Yapay Zekanın Ceza Muhakemesindeki Rolü ve Geleceği. Eylül 03, 2021 tarihinde Academia: https://www.academia.edu/41074795/YAPAY_ZEK%C3%82NIN_CEZA_MUHAKEMES%C4%B0NDEK%C4%B0_ROL%C3%9C_VE_GELECE%C4%9E%C4%B0 adresinden alındı Kadish, S. H. (1985). Complicity, Cause and Blame: A Study in the Interpretation of Doctrine. California Law Review, 73(2), 369-385.
• Kılıçarslan, S. K. (2019). Yapay Zekanın Hukuki Statüsü ve Hukuki Kişiliği Üzerine Tartışmalar. Yıldırım Beyazıt Hukuk Dergisi(2), 363-389.
• Knight, W. (2021, Nisan 22). An AI-driven robot hand spent a hundred years teaching. MIT Technology Review : https://www.technologyreview.com/2018/07/30/240365/artificial-intelligence-driven-robot-hand-spends-a-hundred-years-teaching-itself-to-rotate/ adresinden alındı
• Korkmaz, E. E. (2021, Nisan 22). Singularity-Tekillik Teorisi Üzerine Notlar. Medium: https://medium.com/@emreerenkorkmaz/singularity-tekillik-teorisi-%C3%BCzerine-notlar-c83042c1a936 adresinden alındı
• Markoff, J. (2015, Nisan 6). Planes Without Pilots. Nisan 22, 2021 tarihinde New York Times: https://www.nytimes.com/2015/04/07/science/planes-without-pilots.html?_r=0 adresinden alındı
• Mtambalike, J. R. (2021, Nisan 22). Intelligence Quotient (IQ), Emotional Quotient (EQ) and Spiritual Quotient (SQ). The power of self realization. Medium: https://afruturist.medium.com/intelligence-quotient-iq-emotional-quotient-eq-and-spiritual-quotient-sq-c4907f38dd95 adresinden alındı
• Mubin, O., & Sandoval, E. B. (2015, Aralık 4). The technology in science fiction is not always what we want in the real world. The Conversation: https://theconversation.com/the-technology-in-science-fiction-is-not-always-what-we-want-in-the-real-world-51196 adresinden alındı
• National Transportation Safety Board. (2018, Mart 23). Collision Between a Sport Utility Vehicle Operating With Partial Driving Automation. National Transportation Safety Board, Public Meeting of February 25, 2020. https://www.ntsb.gov/news/events/Documents/2020-HWY18FH011-BMG-abstract.pdf adresinden alındı
• Özkan, H. H. (2008). Çoklu Zeka Kuramı ve Eğitim Programı Öğleri İlişkisi. e-Journal of New World Sciences Academy, 3(2), 332-344.
• Pekmez, T.K. (2018). Otonom Araçların Kullanımından Doğan Cezai Sorumluluk: Türk Hukuku Bakımından Genel Bir Değerlendirme. Ceza Hukuku ve Kriminoloji Dergisi, 173-195.
• Pop, A. I. (2006). Criminal Liability of Corporations—Comparative Jurisprudence. Michigan State University School of Law Student Scholarship Collection. doi:http://dx.doi.org/10.17613/r0v9-yk21
• Prof. Dr. Nevzat Tarhan'dan beyni doğru kullanmanın ipuçları. (2013, Aralık 19). Nevzat Tarhan: https://www.leg.state.nv.us/NRS/NRS-482A.html adresinden alındı
• (2017). Recommendations to the Commission on Civil Law Rules on Robotics Report. European Parliament. https://www.europarl.europa.eu/doceo/document/A-8-2017-0005_EN.html adresinden alındı
• Roberto Murat Özdemir. (2020, Mayıs 14). Q’larınıza Dikkat Edin: IQ, EQ, SQ, CQ, AQ. Temmuz 30, 2021 tarihinde https://www.robertomurat.com/post/our-top-rookies-for-the-upcoming-season adresinden alındı
• Safari, E., Hosseini, ·. S., Taheri, A., & Meghdari, A. (2021). “Does cinema form the future of robotics?”: a survey on fictional robots in sci f movies. SN Applied Sciences. doi:https://doi.org/10.1007/s42452-021-04653-x
• Sarı, O. (2020). Yapay Zekanın Sebep Olduğu Zararlardan Doğan Sorumluluk. TBB Dergisi, 251-312.
• Schank, R. C. (1987). What is AI Anyway? AI Magazine, 8(4), 59-65. doi: https://doi.org/10.1609/aimag.v8i4.623
• Searle, J. (1984). Minds Brains and Science. Cambridge, Massachusetts: Harvard University Press.
• Solum, L. B. (1992). Legal Personhood for Artificial Intelligences. North Carolina Law Review, 70(4), 1231-1287. https://scholarship.law.unc.edu/cgi/viewcontent.cgi?referer=https://www.google.com/&httpsredir=1&article=3447&context=nclr adresinden alındı
• (2014). Surface Vehicle Information Report. SAE International. Temmuz 30, 2021 tarihinde https://www.sae.org/standards/content/j3016_201401/preview/ adresinden alındı
• Tesla Autopilot crash driver was playing video game. (2020, Şubat 26). Nisan 22, 2021 tarihinde BBC News: https://www.bbc.com/news/technology-51645566 adresinden alındı
• The Tesla Team. (2016, Haziran 30). A Tragic Loss. Tesla: https://www.tesla.com/blog/tragic-loss adresinden alındı
• Turing, A. (1950). Computing Machinery and Intelligence. Mind, 59(236), 433-460.
• Türk Ceza Hukuku Derneği. (2019, Ocak 21). Yapay Zeka ve Robot Eylemlerinden Doğan Cezai Sorumluluk – Av. M. Gökhan Ahi [Video Dosyası]. https://www.youtube.com/watch?v=5k0EE1L8A7o adresinden alındı
• Uber 'not criminally liable' for self-driving death. (2019, Mart 6). Nisan 22, 2021 tarihinde BBC News: https://www.bbc.com/news/technology-47468391 adresinden alındı
• Uber's self-driving operator charged over fatal crash. (2020, Eylül 16). Nisan 22, 2021 tarihinde BBC News: https://www.bbc.com/news/technology-54175359 adresinden alındı
• Ünsal, B. (2019). Yapay Zeka, Robotlar, Hukuki Düzenlemeler. İstanbul Barosu Dergisi , 64-74.
• Wikipedia . (2021, Şubat 18). Teknolojik Tekillik. Wikipedia: https://tr.wikipedia.org/wiki/Teknolojik_tekillik adresinden alındı
• Young, B. (tarih yok). The First Killer Robot Was Around Back in 1979. Nisan 22, 2021 tarihinde Howstuffworks: https://science.howstuffworks.com/first-killer-robot-was-around-back-in-1979.htm adresinden alındı
• Zeytin, Z., & Gençay, E. (2019). Hukuk ve Yapay Zeka: E-kişi, Mali Sorumluluk ve Bir Hukuk Uygulaması. Türk Alman Üniversitesi Hukuk Fakültesi Dergisi, 1(1), 39-70. doi:https://dergipark.org.tr/tr/pub/tauhfd/issue/50341/651748