Digital Ethics, Artificial Intelligence in the Context of Human Rights and Algorithmic Discrimination in Europe

Yıl 2024, Cilt: 26 Sayı: 1, 69 - 83, 29.06.2024

Nihan Akıncılar Köseoğlu Belgin Çetin

Öz

This article aims to reveal human rights violations caused by Artificial Intelligence (AI). Claiming that human rights violations occur/will occur when the use of AI is not carried out within an ethical framework, this article first focuses on the concepts of AI ethics and digital ethics. Due to the scope of the article, the legislations on AI and human rights in Europe that create AI ethics are taken as basis; Additionally, AI applications that assist judges/lawyers and individuals are briefly mentioned, focusing on robot judge applications in Europe. Therefore, within the scope of the limitation of the article, after mentioning digital ethics and AI ethics, the use of artificial intelligence in the context of human rights, legislations prepared by the European Union, OECD and the Council of Europe, human rights violations caused by artificial intelligence, the effects of artificial intelligence applications on the prohibition of discrimination. and algorithmic discrimination as a new type of discrimination are touched upon. Considering the academic studies in Turkey, the academic contribution of the article will be innovative, as there are not yet sufficient studies on algorithmic discrimination. When other studies published in Turkish on this subject - especially in the last few years - are examined, it can be seen that examples of virtual courts, artificial intelligence that assists judges/lawyers or individuals, and robot judge artificial intelligence applications all over the world are discussed. The unique value of this study is that it focuses on the process of establishing AI ethics in Europe to prevent AI-related human rights violations. As a result, it is concluded that AI-related human rights violations will continue unless the process of establishing, disseminating and implementing AI ethical rules in Europe is completed.

Anahtar Kelimeler

Digital Ethics, Artificial Intelligence, Human Rights, Algorithmic Discrimination, Robot Judges, Europe

Avrupa’da Dijital Etik, İnsan Hakları Bağlamında Yapay Zekâ ve Algoritmik Ayrımcılık

Öz

Makale, Yapay Zekâ (YZ) kaynaklı insan hakları ihlallerini ortaya koymayı amaçlamaktadır. YZ kullanımının etik çerçeve içinde gerçekleşmediği durumlarda insan hakları ihlallerinin ortaya çıktığını/çıkacağını iddia eden bu makale, önce YZ etiği ve dijital etik kavramlarının üzerinde durmaktadır. Makalenin kapsamı gereği, YZ etiğini meydana getiren Avrupa’da YZ ve insan hakları konulu yasal düzenlemeler temel alınmakta; ayrıca hakime/avukata ve bireylere yardımcı olan YZ uygulamalarından kısaca bahsedilerek, Avrupa’daki robot hakim uygulamalarına odaklanılmaktadır. Dolayısıyla makalenin sınırlılığı kapsamında, dijital etik ve YZ etiğinden bahsedildikten sonra, insan hakları bağlamında yapay zekâ kullanımı, başta Avrupa Birliği (AB) olmak üzere, OECD ve Avrupa Konseyi’nin hazırladığı yasal düzenlemeler, yapay zekâdan kaynaklanan insan hakları ihlalleri, yapay zekâ uygulamalarının ayrımcılık yasağı üzerindeki etkileri ve yeni bir ayrımcılık türü olarak algoritmik ayrımcılık konularına değinilmektedir. Türkiye’deki akademik çalışmalara bakıldığında, algoritmik ayrımcılık konulu henüz yeterli çalışma bulunmadığından, makalenin sunacağı akademik katkı yenilikçi olacaktır. Bu konuda -özellikle son birkaç yılda azımsanmayacak sayıda- Türkçe yayınlanmış diğer çalışmalar incelendiğinde, sanal mahkemeler, hakime/avukata ya da bireylere yardımcı olan yapay zekâ ve robot hakim yapay zekâ uygulamalarının tüm dünya genelindeki örneklerinin ele alındığı görülmektedir. Bu çalışmanın özgün değeri, YZ kaynaklı insan hakları ihlallerini önlemek için Avrupa’da YZ etiğinin oluşturulma sürecine odaklanmasındadır. Sonuç olarak, Avrupa’da YZ etik kurallarının oluşturulması, yaygınlaştırılması ve uygulanması süreci tamamlanmadıkça YZ kaynaklı insan hakları ihlallerinin devam edeceği kanısına varılmaktadır.

Anahtar Kelimeler

Dijital Etik, Yapay Zeka, İnsan Hakları, Algoritmik Ayrımcılık, Robot Hakimler, Avrupa

Kaynakça

• Abanoz, B. (2020). Hukuki Bilgiye Dijital Erişim. Marmara Üniversitesi Hukuk Fakültesi Hukuk Araştırmaları Dergisi, 26(1), 190-203. DOI: 10.33433/maruhad.678020
• Avrupa Konseyi. (1950). Avrupa İnsan Hakları Sözleşmesi. Strasbourg: Avrupa İnsan Hakları Mahkemesi. Erişim adresi: https://www.echr.coe.int/documents/convention_tur.pdf, Erişim tarihi: 15.11.2022.
• Kelion, L. (2021, 13 Ocak). Huawei, Çin'de Sokakta Yürüyen Uygurların Tespitini Sağlayan Teknolojinin Patenti İçin Başvuru Yaptı. BBC News Türkçe. Erişim adresi: https://www.bbc.com/turkce/haberler-dunya-55647839, Erişim tarihi: 15.03.2021.
• Becker, S. J., André, T.N., Lucas, S., Heinitz, R. M., Klevesath, M. & Charton, J. E. (2022). A Code of Digital Ethics: Laying the Foundation for Digital Ethics in a Science and Technology Company. AI & SOCIETY, 38(11), 2629-2639.
• Bilgin, H. (2022). Yapay Zekânın Mahkeme Kararlarında Kullanımına Uluslararası Bir Bakış ve Robot Hâkimler Hakkında Düşünceler. İnönü Üniversitesi Hukuk Fakültesi Dergisi, 13(2), 405-419.
• Boyd, D., Levy, K. & Marwick, A. (2014). The Networked Nature of Algorithmic Discrimination. Open Technology Institute, New America, 53-57.
• Bynum, T. (2015). Computer and Information Ethics. The Stanford Encyclopedia of Philosophy. Erişim adresi: http://plato.stanford.edu/archives/win2015/entries/ethics-computer/, Erişim tarihi: 15.12.2022.
• Council of Europe. (2018). CEPEJ European Ethical Charter on the Use of Artificial Intelligence (AI) in Judicial Systems and Their Environment. Erişim adresi: https://www.coe.int/en/web/cepej/cepej-european-ethical-charter-on-the-use-of-artificial-intelligence-ai-in-judicial-systems-and-their-environment, Erişim tarihi: 15.11.2022.
• Council of Europe. (2019). High-Level Conference: Governing the Game Changer–Impacts of Artificial Intelligence Development on Human Rights, Democracy and the Rule of Law. Helsinki, Finland. Erişim adresi: https://rm.coe.int/conference-report-28march-final-1-/168093bc52, Erişim tarihi: 15.11.2022.
• Çalışkan, A., Bryson, J. J. & Narayanan, A. (2017). Semantics Derived Automatically from Language Corpora Contain Human-Like Biases. Science, 356(6334), 183-186.
• Euronews. (2023). AİHM'e Geçen Yıl Yapılan Başvuruların Yüzde 26,9'u Türkiye'den. Erişim adresi: https://tr.euronews.com/2023/01/26/aihme-gecen-yil-yapilan-basvurularin-yuzde-269u-turkiyeden, Erişim tarihi: 26.01.2023.
• European Commission. (2018). Artificial Intelligence for Europe. COM(2018) 237 Final. Brussels. Erişim adresi: https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:52018DC0237&from=EN, Erişim tarihi: 15.11.2022.
• European Commission. (2019). Ethics Guidelines For Trustworthy AI High-Level Expert Group on Artificial Intelligence. B-1049 Brussels. Erişim adresi: https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai, Erişim tarihi: 15.11.2022.
• European Commission. (2020). White Paper On Artificial Intelligence-A European Approach to Excellence and Trust. COM(2020) 65 Final. Brussels. Erişim adresi: https://ec.europa.eu/info/sites/default/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf, Erişim tarihi: 15.11.2022.
• European Commission. (2021). Proposal for a Regulation of The European Parliament and of the Council Laying Down Harmonised Rules On Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts. {SEC(2021) 167 Final} - {SWD(2021) 84 Final} - {SWD(2021) 85 Final}. COM(2021) 206 Final. 2021/0106 (COD). Brussels. Erişim adresi: https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0001.02/DOC_1&format=PDF, Erişim tarihi: 15.11.2022.
• European Commission. (2022). The European AI Alliance. Erişim adresi: https://digital-strategy.ec.europa.eu/en/policies/european-ai-alliance, Erişim tarihi: 15.11.2022.
• Floridi, L. (2006). Information Ethics, Its Nature and Scope. SIGCAS Computer Society, 36(3), 21–36.
• Floridi. L. (2013). The Ethics of Information. Oxford: Oxford University Press.
• Floridi, L. (2018). Soft Ethics, the Governance of the Digital and the General Data Protection Regulation. Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 376(2133), 1-11.
• Floridi, L., Cath, C. & Taddeo, M. (2019). Digital Ethics: Its Nature and Scope. The 2018 Yearbook of the Digital Ethics Lab., 9-17.
• Green, B. (2021). The Contestation of Tech Ethics: A Sociotechnical Approach to Technology Ethics in Practice. Journal of Social Computing, 2(3), 209-225. doi: 10.23919/JSC.2021.0018.
• Johnson, A. T. (2020). Ethics in the Era of Artificial Intelligence. IEEE Pulse, 11(3), 44-47.
• Karabel, E.G. & Aydemir, D. (2023). Medeni Usul Hukukunda Yargılamanın Hızlandırılması ve Adalete Erişim Hakkı Bakımından Çevrimiçi Yargılama ve Yapay Zekanın Kullanımı. Marmara Üniversitesi Hukuk Fakültesi Hukuk Araştırmaları Dergisi, 29(1), 530-573. DOI:10.33433/maruhad.1263609
• Khalili, L. & Ghasemzadeh, A. A. (2021). Bibliometric Analysis of Ethics and Technology Research Based on Google Scholar from 1983 to 2020. International Journal of Ethics and Society, 3(3), 10-18. Erişim adresi: http://ijethics.com/article-1-147-en.html, Erişim tarihi: 01.12.2022.
• Kriebitz, A. & Lütge C. (2020). Artificial Intelligence and Human Rights: A Business Ethical Assessment. Business and Human Rights Journal, 1–21. doi:10.1017/bhj.2019.28
• Moor, J. H. (1985). What Is Computer Ethics? Metaphilosophy, 16(4), 266–275. https://doi.org/10.1111/j.1467-9973.1985.tb00173.x
• Müller, V. C. (2022). History of Digital Ethics. In: Carissa Véliz (Ed.), Oxford Handbook of Digital Ethics (pp. 3-9). Oxford: Oxford University Press.
• OECD. (2019). G20 Ministerial Statement on Trade and Digital Economy-Annex: G20 AI Principles. Erişim adresi: https://g20-digital.go.jp/asset/pdf/g20_2019_japan_digital_statement.pdf, Erişim tarihi: 01.12.2022.
• OECD Legal Instruments. (2019). Recommendation of the Council on Artificial Intelligence. Erişim adresi: https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449#:~:text=The%20OECD%20Council%20adopted%20the,on%2022%2D23%20May%202019.&text=The%20OECD%20Recommendation%20on%20AI,governments%20in%20their%20implementation%20efforts, Erişim tarihi: 01.12.2022.
• Official Journal of the European Union. (2012). Charter of Fundamental Rights of the European Union. C 326/392. Erişim adresi: https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:12012P/TXT&from=EN, Erişim tarihi: 01.12.2022.
• Official Journal of the European Union. (2016). Consolidated Versions of the Treaty on European Union and the Treaty on the Functioning of the European Union. Erişim adresi: https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:12016ME/TXT&from=EN#d1e32-13-1, Erişim tarihi: 14.11.2022.
• Parker, D. B. (1968). Rules of Ethics in Information Processing. Communications of the ACM, 11(3), 198–201. Rogerson, S. (2017). Coding Ethics into Technology. Hack & Craft News. Erişim adresi: http://hncnews.com/coding-ethics -technology. Erişim tarihi: 24.04.2021.
• Rogerson, S. (2020) Re-Imagining the Digital Age through Digital Ethics. Erişim adresi: https://dora.dmu.ac.uk/bitstream/handle/2086/20626/Ethics%20and%20the%20Internet%20Position%20Paper%20Simon%20Rogerson.pdf?sequence=1. Erişim tarihi: 24.04.2021.
• Schwarting, R. & Ulbricht, L. (2022). Why Organization Matters in “Algorithmic Discrimination”. Köln Z Soziol (Suppl 1), 74, 307-330.
• Siau, K. & Wang, W. (2020). Artificial Intelligence (AI) Ethics: Ethics of AI and Ethical AI. Journal of Database Management (JDM) 31(2), 74-87.
• Singil N. (2022). Yapay Zekâ ve İnsan Hakları. Public and Private International Law Bulletin, 42(1), 1-38.
• Sümer, S. Y. (2021). Ceza Yargılamasının Geleceği: Robot Hakim. Dokuz Eylül Üniversitesi Hukuk Fakültesi Dergisi, 23, 1543-1591.
• Ulenaers, J. (2020). The Impact of Artificial Intelligence on the Right to a Fair Trial: Towards a Robot Judge? Asian Journal of Law and Economics, 11(2), 1-38.
• Verma, S. & Garg, N. (2023). The Trend and Future of Techno-Ethics: A Bibliometric Analysis of Three Decades. Library Hi Tech. Erişim adresi: https://www.emerald.com/insight/content/doi/10.1108/LHT-10-2022-0477/full/html.
• Xenidis, R. & Senden, L. (2020). EU Non-Discrimination Law in the Era of Artificial Intelligence: Mapping the Challenges of Algorithmic Discrimination. In: U. Bernitz, X. Groussot, J. Paju & S. A. De Vries (Eds.), General Principles of EU Law and the EU Digital Order (pp. 151-182). Alphen aan den Rijn: Kluwer Law International.
• Yılmaz, G. (2020). Yapay Zekânın Yargı Sistemlerinde Kullanılmasına İlişkin Avrupa Etik Şartı. Marmara Avrupa Araştırmaları Dergisi, 28(1), 27-55.
• Yılmaz, İ., Sözer, C. & Elver, E. (2021). Yapay Zekâ ile İlgili Güncel Düzenlemeler: Avrupa Birliği ve Amerika Birleşik Devletleri’nde Alınan Aksiyonlar Işığında Bir Değerlendirme. Adalet Dergisi, 66, 445-469.
• Zuber, N., Kacianka, S. & Gogoll, J. (2022). Big Data Ethics, Machine Ethics or Information Ethics? Navigating the Maze of Applied Ethics in IT. arXiv:2203.13494 [cs.SE].
• Zuiderveen Borgesius, F. (2018). Discrimination, Artificial Intelligence, and Algorithmic Decision-Making. Council of Europe, Directorate General of Democracy. Erişim adresi: https://rm.coe.int/discrimination-artificial-intelligence-and-algorithmic-decision-making/1680925d73, Erişim tarihi: 14.11.2022.