AVRUPA BİRLİĞİ YAPAY ZEKÂ YASASI KAPSAMINDA YARGI SİSTEMİNDE YAPAY ZEKÂ UYGULAMALARININ KULLANIMINA YÖNELİK GETİRİLEN DÜZENLEMELER VE ETKİNLİĞİ

Öz

Bu çalışmada; Avrupa Birliği Yapay Zekâ Yasası’nın yargı sisteminde yapay zekâ uygulamalarının kullanımına yönelik getirmiş olduğu düzenlemeler ele alınarak, bu düzenlemelerin yargılama sürecinin adil ve güvenilir olması üzerindeki etkinliği değerlendirilmeye çalışılacaktır. Avrupa Birliği Yapay Zekâ Yasası, yapay zekâ uygulamalarına risk temelli bir yaklaşımla düzenlemeler getirmektedir. Yasada, yargı sisteminde kullanılan yapay zekâ uygulamaları yüksek risk kategorinde yer almış, buna ilişkin sıkı düzenlemeler önerilmiştir. Aynı zamanda, yasada yapay zekâ uygulamalarının sadece yardımcı bir araç olarak işlev görmesi gerektiği belirtilerek, karar alma süreçlerinde insan faktörünün varlığı savunulmuştur. Yargı alanında kullanılan yapay zekâ uygulamalarının Avrupa Birliği Yapay Zekâ Yasası’nda yüksek riskli olarak nitelendirilip, bu konuda sıkı düzenlemelerin yapılması, yargı alanında yapay zekâ uygulamalarının etkili ve güvenli bir şekilde kullanılarak, yargılama sürecinin adil ve güvenilir olması bakımından son derece önemli bir adımdır. Ancak yapay zekâ teknolojileri her geçen gün hızla gelişmektedir. Bu sebeple Avrupa Birliği Yapay Zekâ Yasası ilerleyen süreçlerde yeni yapay zekâ teknolojilerinin gerisinde kalabilir. Dolayısıyla, yeni yapay zekâ teknolojilerine yönelik uygun düzenlemelerin zamanında ve etkin bir şekilde yapılarak, bu alanın güvenli ve düzenli yönetilebilmesi açısından Avrupa Birliği Yapay Zekâ Yasası’nın sıklıkla güncellenmesi gerekmektedir.

Anahtar Kelimeler

• Avrupa Birliği
• Yapay Zeka
• Avrupa Birliği Yapay Zeka Yasası
• Yapay Zeka Düzenlemeleri
• Yargı Sisteminde Yapay Zeka Uygulamalarının Kullanımı

REGULATIONS WITHIN THE SCOPE OF THE EUROPEAN UNION ARTIFICIAL INTELLIGENCE ACT FOR THE USAGE OF ARTIFICIAL INTELLIGENCE APPLICATIONS IN THE JUDICIAL SYSTEM AND THEIR EFFECTIVENESS

Öz

ABSTRACT In this study, the regulations brought by the European Union Artificial Intelligence Act for the usage of artificial intelligence applications in the judicial system are discussed, and the effectiveness of these regulations on the fairness and reliability of the judicial process is endeavored to be evaluated. The European Union Artificial Intelligence Act brings regulations to artificial intelligence applications with a risk-based approach. In the act, the artificial intelligence applications used in the judicial system have been included in the high-risk category and strict regulations were proposed in this regard. Also in the act, the existence of the human factor in decision-making processes has been argued by stating that artificial intelligence applications should only function as an auxiliary tool. Labeling the artificial intelligence applications used in the judicial field as high-risk in the European Union Artificial Intelligence Act and the strict regulations being enacted in this regard are extremely important steps taken towards using the artificial intelligence applications in an efficient and safe manner in judicial field, ensuring an outcome of a fair and reliable judicial process. However, the artificial intelligence technologies are rapidly developing day by day. For this reason, within the coming periods, the European Union Artificial Intelligence Law may lag behind new artificial intelligence technologies. Therefore, the European Union Artificial Intelligence Act should be frequently updated in order to ensure the safe and orderly management of this field by making appropriate amendments in a timely and effective manner which are aimed at new artificial intelligence technologies.

Anahtar Kelimeler

• European Union
• Artificial Intelligence
• European Union Artificial Intelligence Act
• Artificial Intelligence Regulations
• Usage of Artificial Intelligence Applications in the Judicial System

Kaynakça

1. Abalı, G. H. (2022). Avrupa Birliği yapay zeka politikaları. İçinde F. T. Emini (Ed.). Sosyal, beşeri ve idari bilimler alanında uluslararası araştırmalar XV (s.205-233) İstanbul: Eğitim Yayınevi.
2. Basu, D. (2023). Application of artificial intelligence in the management field. 3D…IBA Journal of Management&Leadership, 14(2), 34-42.
3. Başara Turan, G. (2024). Avrupa dijital düzenleme sisteminde yapay zekâ yasası. Ankara Üniversitesi Hukuk Fakültesi Dergisi, 73(4), 983-3016. https://doi.org/10.33629/auhfd.1578021
4. Beduschi, A. (2020). Human rights and the governance of artificial intelligence. Geneva Academy. https:// www.geneva-academy.ch/research/publications/detail/513-human-rights-and-the-governance-ofartificial- intelligence sayfasından erişilmiştir. Erişim Tarihi: 01.03.2025.
5. Birtane, Ş. (2024). Hakime yardımcı yapay zekâ. Türkiye Adalet Akademisi Dergisi, 15(59), 233-272. https://doi.org/10.54049/taad.1515051
6. Bogue, R. (2023). The first half centruy of industrial robot: 50 years of robotic developments. Industrial Robot, 50(1), 1-10. https://doi.org/10.1108/IR-10-2022-0251
7. Campbell, M., Hoane Jr., J. A., & Hsu, H. F.(2002). Deep blue. Artificial Intelligence, 134(1-2), 57-83. https://doi.org/10.1016/S0004-3702(01)00129-1
8. Ceylan, Yenice, Ö. (2024). Yapay zekânın hukuki statüsünün değerlendirilmesi. Anadolu Üniversitesi Hukuk Fakültesi Dergisi, 10(1), 35-52. https://doi.org/10.54699/andhd.1390938

9. Coggings, N. T. (2022). More work for roomba? Domestic robots, housework and the production of privacy. Prometheus, 38(1), 98-112. https://doi.org/10.13169/prometheus.38.1.0098
10. Cooney, M., Shiomi, M., Duarte, E. K., & Vinel, A. (2023). A broad view on robot self-defence: Rapid scoping review and cultural comparison. Robotics, 12(2), 43: 1-37. https://doi.org/10.3390/robotics12020043 Coşkun, F., & Gülleroğlu, D. H. (2021). Yapay zekanın tarih içindeki gelişimi ve eğitimde kullanılması. Ankara Üniversitesi Eğitim Bilimleri Fakültesi Dergisi, 54(3), 947-966. https://doi.org/10.30964/ auebfd.916220
11. Çil, B. (2024). AB Yapay Zekâ Yasası ve yapay zekâ küresel ortaklığı. İktisadi Kalkınma Vakfı. https:// www.ikv.org.tr/images/files/ikv_degerlendirme_notu_ab_yapay_zeka_yasasi_bared_cil.pdf sayfasından erişilmiştir. Erişim Tarihi:19.02.2025.
12. Dick, S. (2019). Artificial intelligence. Harvard Data Science Review, 1(1), 1-8. https://doi. org/10.1162/99608f92.92fe150c
13. Erdoğan, G. (2021). Yapay zekâ ve hukukuna genel bir bakış. Adalet Dergisi, (66),117-192. Erciyes, F. (2024). Turing testinin ve işlevselci yorumu. MetaZihin:Yapay Zeka ve Zihin Felsefesi Dergisi, 7(1), 43-57. https://doi.org/10.51404/metazihin.1280648
14. Erdem, T., & Özbek, C. (2021). Avrupa Birliği’nin yapay zekâ politikalarının küresel teknoloji dönüşümüne etkileri. İstanbul Rumeli Üniversitesi Sosyal Bilimler Dergisi, 1(1), 47-69.
15. Etike, Ş. (2023). Yapay zekayı insan ve kamusal yarar için çalıştırmak: ABD ve AB politika belgelerinin önerileri. Memleket Siyaset Yönetim, 18(39), 220-249. https://doi.org/10.56524/msydergi. 1301819
16. European Commission (2018a). EU member states sign up to cooperate on artificial intelligence. https:// digital-strategy.ec.europa.eu/en/news/eu-member-states-sign-cooperate-artificial-intelligence sayfasından erişilmiştir. Erişim Tarihi: 05.02.2024
17. European Commission. (2018b). Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the regions: artificial intelligence for Europe. https://eur-lex.europa.eu/legal-content/EN/ TXT/PDF/?uri=CELEX:52018DC0237 sayfasından erişilmiştir. Erişim Tarihi: 07.02.2024
18. European Commission. (2018c). Commision staff working document: Liability for emerging digital technologies: Accompanying the document: Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the regions artificial intelligence for Europe. https://digital-strategy. ec.europa.eu/en/library/european-commission-staff-working-document-liability-emergingdigital- technologies sayfasından erişilmiştir. Erişim Tarihi: 02.02.2025.
19. European Commission. (2018d). Member states and Commission to work together to boost artificial intelligence “made in Europe”. https://ec.europa.eu/commission/presscorner/api/files/document/ print/en/ip_18_6689/IP_18_6689_EN.pdf sayfasından erişilmiştir. Erişim Tarihi: 05.02.2025.
20. European Commission. (2018e). Artificial Intelligence: Commission Kicks Off Work on Marrying Cutting- Edge Technology and Ethical Standards. https://ec.europa.eu/commission/presscorner/detail/ en/ip_18_1381 sayfasından erişilmiştir. Erişim Tarihi: 07.02.2025.
21. European Commission. (2018f). Over 500 comments received on the draft ethical guidelines for trustworthy artificial intelligence. https://digital-strategy.ec.europa.eu/en/news/over-500-commentsreceived- draft-ethical-guidelines-trustworthy-artificial-intelligence Erişim Tarihi: 03.03.2025
22. European Commission for the Efficiency of Justice [CEPEJ]. (2018). European Ethical Charter on the use of artificial intelligence in judicial systems and their environment. https://rm.coe.int/ethicalcharter- en-for-publication-4-december-2018/16808f699c sayfasından erişilmiştir. Erişim Tarihi: 04.12.2024.
23. European Commission. (2019a). Ethics guidelines for trustworthy AI. https://digital-strategy.ec.europa. eu/en/library/ethics-guidelines-trustworthy-ai sayfasından erişilmiştir. Erişim Tarihi:06.12.2025.
24. European Commission. (2019b). The first European AI alliance assembly. https://digital-strategy. ec.europa.eu/en/events/first-european-ai-alliance-assembly sayfasından erişilmiştir. Erişim Tarihi: 02.11.2024.
25. European Commission. (2020a). White paper: On artificial intelligence-A European approach to excellence and trust.https://commission.europa.eu/document/download/d2ec4039-c5be-423a-81efb9e44e79825b_ en?filename=commission-white-paper-artificial-intelligence-feb2020_en.pdf sayfasından erişilmiştir. Erişim Tarihi: 04.01.2025.
26. European Commission. (2020b). Assessment list for trustworthy artificial intelligence (ALTAI) for selfassessment. https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificialintelligence- altai-self-assessment sayfasından erişilmiştir. Erişim Tarihi: 09.01.2025. European Commission. (2020c). Sectoral considerations on the policy and investment recommendations for trustworthy artificial intelligence. https://op.europa.eu/en/publication-detail/-/ publication/6d266f0f-f7c3-11ea-991b-01aa75ed71a1/language-en sayfasından erişilmiştir. Erişim Tarihi:18.01.2025.
27. European Commission. (2020d). Second European AI alliance assembly 9 October 2020. https://futurium. ec.europa.eu/sites/default/files/2020-12/Second%20European%20AI%20Alliance%20Assembly% 20_%20Event%20Report.pdf sayfasından erişilmiştir. Erişim Tarihi:18.01.2025.
28. European Commission. (2020e). White paper on artificial intelligence: Public consultation towards a European approach for excellence and trust. https://digital-strategy.ec.europa.eu/en/library/white- paper-artificial-intelligence-public-consultation-towards-european-approach-excellence-and sayfasından erişilmiştir. Erişim Tarihi:18.01.2025.
29. European Commission. (2021a). Proposal for a regulation of the European Parliament and of the Council: Laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union Legislative Acts. https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735- a372-11eb-9585-01aa75ed71a1.0001.02/DOC_1&format=PDF sayfasından erişilmiştir. Erişim Tarihi:18.01.2025.
30. European Commission. (2021b). European approach to artificial intelligence. https://digital-strategy. ec.europa.eu/en/policies/european-approach-artificial-intelligence sayfasından erişilmiştir. Erişim Tarihi:18.01.2025.
31. European Commission. (2021c). Annexes to the Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the regions: Fostering a European approach to artificial intelligence. https:// eur-lex.europa.eu/resource.html?uri=cellar:01ff45fa-a375-11eb-9585-01aa75ed71a1.0001.02/ DOC_2&format=PDF sayfasından erişilmiştir. Erişim Tarihi:18.01.2025.
32. European Commission. (2021d). Europe fit for the digital age: Commission proposes new rules and actions for excellence and trust in artificial intelligence. https://ec.europa.eu/commission/presscorner/ detail/en/ip_21_1682 sayfasından erişilmiştir. Erişim Tarihi:18.01.2025.
33. European Commission. (2024a). Artificial intelligence- questions and answer. https://ec.europa.eu/commission/ presscorner/detail/en/qanda_21_1683 sayfasından erişilmiştir. Erişim Tarihi:18.01.2025.
34. European Commission. (2024b). AI Act enters into force. https://commission.europa.eu/news/ai-actenters- force-2024-08-01_en sayfasından erişilmiştir. Erişim Tarihi:06.03.2025.
35. European Commission. (2025). AI Act. https://digital-strategy.ec.europa.eu/en/policies/regulatoryframework- ai sayfasından erişilmiştir. Erişim Tarihi:10.03.2025.
36. Farmer, S., Morton, S., & Booth, M. (2024). The EU’s AI Act: A review of the World’s first comprehensive law on artificial intelligence and what this means for EU and non-EU companies. Pıllsbury. https://www.pillsburylaw.com/en/news-and-insights/eu-ai-act.html sayfasından erişilmiştir. Erişim Tarihi: 02.02.2025.
37. Grewal, S. D. (2014). A critical conceptual analysis of definition of artificial intelligence as applicable to computer engineering. Journal of Computer Engineering, 16(2), 9-13. https://doi. org/10.9790/0661-16210913
38. Gyuranecz, Z. F., Krausz, B., & Papp, D. (2019). The AI is now in session- The impact of digitalization on courts. EJTN THEMIS SEMI-FINAL D – Judicial Ethics and Professional Conduct. https:// portal.ejtn.eu/PageFiles/17916/TEAM%20HUNGARY%20TH%202019%20D.pdf sayfasından erişilmiştir. Erişim Tarihi: 07.02.2025.
39. Hamet, P., & Tremblay, J. (2017). Artificial Intelligence in Medicine. Metabolism Clinical and Experimental, 69, S36-S40. https://doi.org/10.1016/j.metabol.2017.01.011
40. Haristiani, N. (2019). Artificial intelligence (AI) chatbot as language learning medium: An inquiry. Journal of Physics: Conference Series 1387 012020. https://iopscience.iop.org/article/ 10.1088/1742-6596/1387/1/012020 sayfasından erişilmiştir. Erişim Tarihi: 15.05.2024.
41. Heikkinen, H.T. (2019). How does the use of artificial intelligence affect the concept of fair trial? (Yayımlanmamış Yüksek lisans tezi) https://www.lunduniversity.lu.se/lup/publication/8980709 sayfasından erişilmiştir. Erişim Tarihi: 07.03.2025
42. Hickman, T., Lorenz, S., Teetzmann, C., & Jha, A. (2024). Long awaited EU AI Act becomes law after publications in the EU’s official journal. White&Case. https://www.whitecase.com/insight-alert/ long-awaited-eu-ai-act-becomes-law-after-publication-eus-official-journal#article-content sayfasından erişilmiştir. Erişim Tarihi: 15.03.2025.
43. Jankuloski, F., Bozinovski, A., & Pacovski, V. (2020). Artificial intelligence: Simulating human emotion and surpassing human intelligence. In E. Zdravevski & P. Lameski (Eds.), 17th International Conference on Informatics and Information Technologies-CITT 2020. Faculty of Computer Science and Engineering, Skopje, Ss. Cyril and Methodius University Skopje, Macedonia Macedonia. https://repository.ukim.mk/handle/20.500.12188/8188 sayfasından erişilmiştir. Erişim Tarihi: 07.02.2025.
44. Kamener, L. (2017). Courting change: The verdict on AI and the courts. Centre for Public Impact. https:// centreforpublicimpact.org/resource-hub/courting-change-the-verdict-on-ai-and-the-courts/ sayfasından erişilmiştir. Erişim Tarihi:03.03.2025
45. Keisner, A. C., Raffo, J., & Wunsch-Vincent, S. (2015). Breakthrough technologies-robotics, innovation and intellectual property. (Economic Research Working Paper No.30). World Intellectual Property Organization (WIPO). https://books.google.com.tr/books?hl=tr&lr=&id=eCqjDwAA QBAJ&oi=fnd&pg=PP1&dq=Breakthrough+Technologies-Robotics,+Innovation+and+Intell ectual+Property%E2%80%9D&ots=o46_FjLWUY&sig=YDeiEIgjodCjFv9zDcHhJ8Jj65g&r edir_esc=y#v=onepage&q=Breakthrough%20Technologies-Robotics%2C%20Innovation%20 and%20Intellectual%20Property%E2%80%9D&f=false sayfasından erişilmiştir. Erişim Tarihi: 08.02.2025
46. Keskin Karakoç, E. (2023). Yapay zekâ sohbet robotu ChatGPT ve Türkiye internet gündeminde oluşturduğu Temalar. Yeni Medya Elektronik Dergisi, 7(2), 114-131.
47. Lemma, S. (2018). Chatbot for e-learning: A case of study. International Journal of Mechanical Engineering and Robotics Research, 7(5), 528-533.
48. Li, Z. (2023), The dark side of ChatGPT: Legal and ethical challenges from stochastic parrots and hallucination. arXiv. https://arxiv.org/pdf/2304.14347 sayfasından erişilmiştir. Erişim Tarihi: 09.05.2024.
49. Mijwil, M. M., & Abttan, A. R. (2021). Artificial intelligence: A survey on evoluation and future trends. Asian Journal of Applied Sciences, 9(2), 87-93. https//doi.org/10.24203/ajas.v9i2.6589
50. Muscola, G. G., Caldwell, D., & Cannella, F. (2017). Calculation of the center of mass position of each link of multibody biped robots. Applied Sciences, 7(7), 724, 1-15 https://doi.org/10.3390/app7070724 Official Journal of the European Union. (2024). Regulation (EU) 2024/1689 of The European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence and amending regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act).https://eur-lex.europa.eu/legal-content/EN/TXT/ PDF/?uri=OJ:L_202401689 sayfasından erişilmiştir. Erişim Tarihi:18.02.2025.
51. O’Leary, E. D. (2019). Google’s duplex: Pretending to be human. Intelligence Systems in Accounting, Finance and Management, 26(1), 46-53. https://doi.org/10.1002/isaf.1443
52. Patel, P., & Kanani, P. (2021). Google duplex- a big leap in the evolution of artificial intelligence. International Jornal of Computer Applications, 174(13), 25-27. https://doi.org/10.5120/ijca2021921019
53. Ramani, S., Vijayalakshmi, R., Mahendra, J., NalinaKumari C. B., & Ravi, N. (2023). Artificial intelligence in periodontics – an overview, IP International Journal of Periodontology and Implantology, 8(2), 71–74. https://doi.org/10.18231/j.ijpi.2023.015
54. Samman, T., & De Vanssay, B. (2024). What to Take Away From The European Law On Artificial Intelligence. Fondation Robert Shuman. https://server.www.robert-schuman.eu/storage/en/doc/ questions-d-europe/qe-757-en.pdf sayfasından erişilmiştir. Erişim Tarihi: 02.02.2025.
55. Samsun, T. A. (2021). Yapay zekâ yarışında Avrupa Birliği’nin konumu. Euro Politika, 8(24), 24-31. Shah, M., Kale, G. S., Raut, K., Gandhi, S., Katkhade, S., Haral, R., …Kanase, S. S. (2024). A review on-artificial intelligence in pharmacy&applications of AI in pharmacy. International Journal of Pharmaceutical Sciences, 2(7), 162-170. https://doi.org/10.5281/zenodo.12610382
56. T.C. Dışişleri Bakanlığı, Avrupa Birliği Başkanlığı. (2024). AB Yapay Zeka Yasası yayımlandı. https:// www.ab.gov.tr/ab-yapay-zeka-yasasi-yayimlandi_53836.html sayfasından erişilmiştir. Erişim Tarihi: 18.01.2025.
57. The Council of Europe Commissioner for Human Rights. (2019). Unboxing artificial intelligence: 10 steps to protect human rights. https://rm.coe.int/unboxing-artificial-intelligence-10-steps-topro% 20tect-human-rightsreco/1680946e64 sayfasından erişilmiştir. Erişim Tarihi:18.01.2025.
58. Turing, M. A. (1950). Computing machinery and intelligence. Mind, LIX (236), 433-460. https://doi. org/10.1093/mind/LIX.236.433
59. Wang, P. (2019). On defining artificial intelligence. Journal of Artificial General Intelligence, 10(2), 1-37. https://doi.org/10.2478/jagi-2019-0002
60. Yılmaz, G. (2020). Yapay zekânın yargı sistemlerinde kullanılmasına ilişkin Avrupa Etik Şartı. Marmara Avrupa Araştırmaları Dergisi, 28(1), 27-55. https://doi.org/10.29228/mjes.8
61. Yılmazel, C. S. (2022). Yapay Zeka çağında diplomasi. Türk Dünyası Araştırmaları, 132(260), 91-112. https://doi.org/10.55773/tda.1153159
62. Yüksel Bozkurt, E. A. (2022). Avrupa Komisyonu’nun Yapay Zekâ Tüzük Teklifi’ne genel bir bakış. Türkiye Adalet Akademisi Dergisi, 13(51), 19-46. https://doi.org/10.54049/taad.1139330
63. Zorluel, M. (2019). Yapay zekâ ve telif hakkı. Türkiye Barolar Birliği Dergisi, 142, 305-356.