Artificial Intelligence Assisting the Judge

Year 2024, Issue: 59, 233 - 272, 12.07.2024

Şermin Birtane

https://doi.org/10.54049/taad.1515051

Abstract

Artificial intelligence changes every aspect of our lives and affects our work and living spaces. However, artificial intelligence also brings real challenges for both governments and citizens, directly affecting fundamental human rights such as privacy, private life and protection of personal data, freedom of expression, the right to life, the right to a fair trial. This situation has revealed the need to make legal regulations at international and national levels in terms of protecting human rights in the areas where artificial intelligence systems are applied. AI applications also take their place in judiciary and justice services. It is possible for artificial intelligence applications to make positive contributions to reaching a high level in ensuring equality and justice, and thus ensuring respect for human rights, by using them in judicial proceedings and court management. However, there are also difficulties, problems and negative aspects. The use of AI applications in the judiciary may lead to negative situations that directly concern many fundamental human rights such as privacy, protection of personal data, transparency, freedom of expression, prohibition of discrimination, and compliance with fair trial guarantees.
In this study, evaluations within the framework of ethical principles and international legal regulations in terms of the use of artificial intelligence in the judiciary are discussed. A “human rights-oriented” approach must be adopted in the design, production and use of artificial intelligence applications. By adopting a human rights-oriented approach, it may be possible to protect human rights and respect privacy and confidentiality of personal data in areas where artificial intelligence applications are valid.

Keywords

Artificial intelligence, judiciary, ethical principles, human rights

Ethical Statement

This article is not subject to Ethics Committee permission.

HAKİME YARDIMCI YAPAY ZEKÂ

Abstract

Yapay zekâ (YZ) hayatımızın her yönünü dönüştürmekte, iş ve yaşam alanlarımızı etkilemektedir. YZ bireyler için gerçek zorlukları da beraberinde getirmekte, mahremiyet, özel hayat ve kişisel verilerin korunması, ifade hürriyeti, yaşam hakkı, adil yargılanma hakkı gibi temel insan haklarının doğrudan etkilenmesine yol açmaktadır. Bu durum YZ sistemlerinin uygulandığı alanlarla ilgili olarak insan haklarının korunması bakımından uluslararası ve ulusal düzeyde hukuki düzenlemeler yapılması ihtiyacını ortaya çıkarmıştır. YZ uygulamaları yargı ve adalet hizmetlerinde de yerini almaktadır. Yapay zekâ uygulamalarının, yargısal işlemlerde ve mahkeme yönetiminde kullanılmasıyla eşitlik ve adaletin sağlanmasında yüksek bir seviyeye erişilmesine ve bu suretle insan haklarına saygının teminine olumlu katkılarının olması mümkündür. Bununla birlikte zorluklar, problemler ve olumsuz yönler de bulunmaktadır. Yargıda YZ uygulamalarının kullanılması mahremiyet, kişisel verilerin korunması, şeffaflık, ifade hürriyeti, ayrımcılık yasağı, adil yargılanma güvencelerine riayet gibi birçok temel insan haklarını doğrudan ilgilendiren olumsuz durumlara yol açabilmektedir. Bu çalışmada, yapay zekânın yargıda kullanılması bakımından etik ilkeler ve uluslararası hukuki düzenlemeler çerçevesinde değerlendirmeler ele alınmaktadır. YZ uygulamalarının tasarımı, üretilmesi ve kullanımında “insan hakları odaklı” anlayışın benimsenmesi gerekmektedir. İnsan hakları odaklı yaklaşımın benimsenmesiyle YZ uygulamalarının geçerli olduğu alanlarda insan haklarını korumanın, mahremiyet ve kişisel verilerin gizliliğine saygının sağlanması mümkün olabilir.

Keywords

Yapay zekâ, yargı, etik ilkeler, insan hakları

Ethical Statement

Bu makale Etik Kurul iznine tabi değildir.

References

• Acar E ve Abanoz M, “Yapay Zekâ ve Ontolojik Güvensizlik: Bireysel ve Toplumsal Kaygı Dinamikleri Üzerine Bir Değerlendirme”, LAÜ Sosyal Bilimler Dergisi, (2023) XIV-I, 22-51.
• Aksu M, Yapay Zekâ ve Hukuk, (Onikilevha 2022).
• Aletras N, “Predicting Judicial Decisions of the European Court of Human Rights: A Natural Language Processing perspective”, PeerJ Computer Science, (2016) 2, 1-19.
• Angwin J, Larson J, Mattu S ve Kirchner L, “Machine Bias” (2016) Propublica https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing (Erişim Tarihi 18/9/2023).
• — —, “How We Analyzed the COMPAS Recidivism Algorithm”, (2016) Propublica https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm (Erişim Tarihi: 18/9/2023).
• Arias PC, “Artificial Intelligence & Machine Learning: a Model for a New Judicial System?”, Revista Internacional Jurídica y Empresarial, (2020)(3), pp. 81-91.
• Bilgin H, “Yapay Zekânın Mahkeme Kararlarında Kullanımına Uluslararası Bir Bakış ve Robot Hâkimler Hakkında Düşünceler”, İnÜHFD, (2022) 13.,(2) 405-419.
• Bora Çınar S “Dava Yönetimi ve Yapay Zekâ Etkileşimi Üzerine Düşünceler”, Legal Hukuk Dergisi, 20(234) 2022, s.2089- 2130.
• Cataleta MS, ‘Artificial Intelligence and Human Rights, an Unequal Struggle’, Journal of International Law CIFILE (2020)Sayı 1 (2) s. 40-63.
• Chesterman S, We, the Robots? Regulating Artificial Intelligence and The Limits of The Law, (Cambridge University Press 2021).
• — —, “Through a Glass, Darkly: Artificial Intelligence and the Problem of Opacity”, The American Journal of Comparative Law, (2021) Volume 69, Issue 2, June 2021, Pages 271–294, https://doi.org/10.1093/ajcl/avab012 (Erişim Tarihi: 24/11/2023).
• Cowan D, “Estonia: a Robotically Transformative Nation”, Robotics Law Journal, (2019) https://www.roboticslawjournal.com/global/estonia-a-robotically-transformative-nation-28728942, Erişim Tarihi: 07.10.2023.
• Erdoğan G, “Yapay Zekâ Ve Hukukuna Genel Bir Bakış”. Adalet Dergisi, (2021) 66, 117-192.
• Ersoy Ç, Robotlar, Yapay Zekâ ve Hukuk, (4th edt On İki Levha 2019).
• European Commission, High-Level Expert Group on Artificial Intelligence, Ethics Guidelines for Trustworthy AI, (2019). https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai (Erişim Tarihi: 8/10/2023)
• Güçlütürk OG ve Kadıoğlu YM, “Yapay Zekâ ve Regülasyon”, Gelişen Teknolojiler ve Hukuk II: Yapay Zekâ, (1st edt. Onikilevha 2021).
• Gül S, “Yargıda Yapay Zekâ ve Büyük Veri Teknolojileri”, 156. Yıl Danıştay ve İdari Yargı Günü Sempozyumunda sunulan tebliğ, 10/5/2024.
• Gülel H, Hukuki Açıdan Yapay Zekâ, (Adalet 2023).
• Güven H, Ayvaz-Güven ET, Yapay Zekâ Uygulamalarının E-Ticarette Kullanımı. International Journal of Management and Administration, (2023)7(13), 69-94.
• Harris B, ‘Could an AI ever replace a judge in court?’, (2017) https://www.worldgovernmentsummit.org/ observer/articles/2017/detail/could-an-ai-ever-replace-a-judge-in-court (Erişim: 20.09.2023).
• Hirch Ernst, Pratik Hukukta Metot, (8th edt, Seçkin 2017).
• İlgün MF, “Vergi Denetim Sürecinde Büyük Veri Analitiği’. Siyaset, Ekonomi ve Yönetim Araştırmaları Dergisi (2020) 8/1, 1-24.
• Karacan P ve Irgız D, ‘Yapay Zekâ Kullanımı İçin Hukuksal Çerçeve İhtiyacı’, (2023) https://blog.lexpera.com.tr/yapay-zekâ-kullanimi-icin-hukuksal-cerceve-ihtiyaci/ (Erişim Tarihi: 23/10/2023)
• Karataş Durmuş N, ‘Vergi İdaresi 3.0. Yapay Zekâ Perspektifinden Bir İnceleme, Maliye Dergisi, (2023); 184:225-253
• Keisner CA, Raffo JD ve Wunsch-Vincent SA, ‘Breakthrough Technologies- Robotics, Innovation and Intellectual Property’, World Intellectual Property Organization (WIPO), Economic Research Working Paper,(2015) No 30.
• Manning C, ‘Artificial Intelligence Definitions’, (2020) https://hai.stanford.edu/sites/default/files/2020-09/AI-Definitions-HAI.pdf (Erişim Tarihi: 7/10/2023)
• Medvedeva M ve vd, ‘Automatic Judgement Forecasting for Pending Applications of the European Court of Human Rights, Proceedings of the fifth workshop on automated semantic analysis of information in legal text’, CEUR Workshop Proceedings, (2021)12-23,
• Medvedeva M, Vols M ve Wieling M, ‘Using Machine Learning to Predict Decisions of the European Court of Human Rights’, Artificial Intelligence and Law (2019) 237-266.
• Möslein F, ‘Yönetim Kurulu Toplantı Odasındaki Robotlar: Yapay Zekâ ve Şirketler Hukuku’, Çev. Sevda Bora Çınar, İstanbul Hukuk Mecmuası, (2021) 79, 2, 700-728.
• Nowotko PM, ‘AI in Judicial Application of Law and the Right to a Court’, Procedia Computer Science, (2021)192, 2220-2228.
• Öngören H, ‘Türkiye’de İnternet Kullanım Eğilimi ve Dijital Vatandaşlık Algısının İnsan Hakları Bağlamında İncelenmesi’, Türkiye İnsan Hakları ve Eşitlik Kurumu Akademik Dergisi,(2022) Volume: 5 Issue: 9, s.47 - 82
• Özçelik B, ‘Yapay Zekanın Veri Koruma, Sorumluluk Ve Fikri Mülkiyet Açısından Ortaya Çıkardığı Hukuki Gereksinimler’, Adalet Dergisi, (2021) 2021/1 66. sayı ss.87-116
• Pepıto J, Vasquez, B. ve Locsin, R. (2019). ‘Artificial Intelligence and Autonomous Machines: Influences, Consequences, and Dilemmas in Human Care’, Health, Scientific Research Publishing, (2019)11(7), 932-949.
• Serozan R, Hukukta Yöntem, (Vedat Kitapçılık 2015).
• Shi C, Sourdin T ve Li B, ‘The Smart Court- A New Pathway to Justice in China?’ International Journal for Court Administration (2021)12(1) 4.s. 4.
• Singil N, ‘Yapay Zekâ ve İnsan Hakları’, Public and Private International Law Bulletin, (2022) 42., S. 1., 121-158.
• Sourdin T, ‘Justice in the age of technology: ‘The rise of machines is upon us’ Sdyney: Australian Lawyers Alliance (2017).
• Terzidou K, ‘The Use Of Artificial Intelligence in the Judiciary and Its Compliance with the Right to a Fair Trial’, Journal of Judicial Administration,(2022) 31 (3), p. 154-168.
• Turing AM, ‘Computing Machinery and Intelligence’ (1950) 59 Mind 433-460 https://redirect.cs.umbc.edu/courses/471/papers/turing.pdf.
• Xu Zichun, ‘Human Judges in the Era of Artificial Intelligence: Challenges and Opportunities’, Applied Artificial Intelligence, (2022). C. 36., S. 1., ss. 1025-1045.
• Yamane N, ‘Artificial Intelligence in the Legal Field and the Indispensable Human Element Legal Ethics Demands’, The Georgetown Journal of Legal Ethics, (2020) C. 33., S. 4., ss. 877-890.
• Yılmaz İ, Sözer C ve Elver E, ‘Yapay Zekâ İle İlgili Güncel Düzenlemeler: Avrupa Birliği ve Amerika Birleşik Devletleri’nde Alınan Aksiyonlar Işığında Bir Değerlendirme’, Adalet Dergisi, (2021) 66(1) 2021, s.445-469.
• Yılmaz A, Yapay Zekâ, (Kodlab 2019).
• Yılmaz OG, ‘Yargı Uygulamasında Yapay Zekâ Kullanımı- Yapay Zekâ Hâkim Cübbesini Giyebilecek Mi?’, Adalet Dergisi, (2021) 66., S. 1.,379-415.
• Council of Europe Commissioner for Human Rights. Unboxing Artificial Intelligence: 10 Steps to Protect Human Rights, (2019) https://rm.coe.int/unboxing-artificial-intelligence-10-steps-to-protect-human-rightsreco/1680946e64 (Erişim Tarihi: 18/9/2023)
• European Commission. Regulation of the European Parliament and of the Council: Laying Down Harmonised Rules on Artificial Intelligence (Artifıcial Intelligence Act) and Amending Certain Union Legislative Acts, 2021/0106 (COD).
• OECD Yapay Zekâ Konsey Tavsiyeleri, Kabul Tarihi 22/5/2019, Sayı 0449, https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449 (Erişim Tarihi: 18/9/2023)
• European Commission, Directorate-General for Communications Networks, Content and Technology. Ethic Guidelines for Trustworthy AI, Publications Office (2019).