Avrupa Birliği Yapay Zekâ Kanunu’nun Risk Grupları ve İlgililerin Yükümlülükleri Bağlamında İncelenmesi

Year 2025, Volume: 29 Issue: 1, 307 - 366, 31.01.2025

Salih Karadeniz

https://doi.org/10.34246/ahbvuhfd.1541455

Abstract

Avrupa Birliği, gelişen teknolojiler bakımından yapmış olduğu regülasyon çalışmaları ile ön plana çıkmaktadır. Avrupa Birliği Yapay Zeka Kanunu da bu regülasyon çalışmalarından sadece birisidir. Bu doğrultuda Avrupa Birliği, temelde birlik içerisinde ve birlik üyesi devletlerin vatandaşlarını etkileyen bir durumun varlığında, uygulanmak üzere bir yapay zeka kanunu oluşturmuştur. Yapay zekanın ilk defa kapsamlı olarak ele alındığı bu kanunda, yapay zeka sistemleri Avrupa Birliği tarafından risk temelli yaklaşım çerçevesinde ele alınmıştır. Yasaklı, yüksek riskli, sınırlı riskli ve minimum riskli sistemler olarak dört grupta sınıflandırılan yapay zeka sistemleri, birliğin çıkarları doğrultusunda düzenlenmiş, bu sistemleri sağlayanlara, distribütörlere, ithalatçılara ve kullanıcılara çeşitli yükümlülükler öngörülmüştür. Kanunun kapsamı ise oldukça geniş tutulmuştur. Dünyada ilk olduğu kabul edilen Avrupa Birliği Yapay Zeka Kanunu, önemine binaen işbu çalışmada detaylı bir şekilde ele alınacaktır.

Keywords

Yapay zeka, Hukuk, Avrupa Birliği, Avrupa Birliği Yapay Zeka Kanunu, Regülasyon

Thanks

Makalenin yazımında fikir ve görüşlerini esirgemeyen ve yol gösteren sayın Hocam Dr. Öğr. Üyesi Şerafettin Ekici'ye teşekkür ederim.

REVIEW OF THE EUROPEAN UNION ARTIFICIAL INTELLIGENCE ACT IN THE CONTEXT OF RISK GROUPS AND OBLIGATIONS OF THE RELEVANT PARTIES

Abstract

The European Union stands out with its regulatory activities in the field of developing technologies. The European Union Artificial Intelligence Act (AI ACT) is just one of these regulatory efforts. Accordingly, the European Union has established an artificial intelligence act to be applied in the presence of a situation affecting the citizens of the Union and the member states. In this law, where artificial intelligence is comprehensively addressed for the first time, artificial intelligence systems are taken into consideration by the European Union within the framework of a risk-based approach. Artificial intelligence systems, which are classified in four groups as prohibited, high-risk, limited-risk and minimum-risk systems, are regulated in line with the interests of the Union, and various obligations are stipulated for the providers, distributors, importers and deployers of these systems. The scope of the law is quite broad. AI Act, which is considered to be the first in the world, will be discussed in detail in this study due to its importance.

Keywords

Artificial intelligence, Law, European Union, AI ACT, Regulation

References

• Almada M/ Radu A, “The Brussels Side-Effect: How the AI Act Can Reduce the Global Reach of EU Policy”, German Law Journal 25 (2024), <https://www.cambridge.org/core/journals/german-law-journal/article/brussels-sideeffect-how-the-ai-act-can-reduce-the-global-reach-of-eu policy/032C72AEC537EBB6AE96C0FD90387E3E> Erişim Tarihi 29 Ekim 2024, s. 646–663.
• Aksoy E, Yapay Zeka'nın Sorumluluk Hukukundaki Konumu ve Büyük Veri ile İlişkisi. 1. Bası, Seçkin, 2022.
• Amnesty <https://www.amnesty.org/en/latest/news/2019/07/the-great-hack-facebook-cambridge-analytica/ > Erişim Tarihi 31 Ağustos 2024.
• Başyiğit A S, Temel İnsan Hakları Bağlamında Yapay Zekâ. 1. Bası, Yetkin Yayınları, 2024. Bozkurt Yüksel A E, “Avrupa Komisyonu’nun Yapay Zekâ Tüzük Teklifi’ne Genel Bir Bakış”, TAAD, 13 (51), 2022, s. 19-46. Chung N C vd., “False Sense of Security in Explainable Artificial Intelligence (XAI)” Workshop on AI Governance at the 2024 International Joint Conference on Artificial Intelligence (IJCAI), 2024, < https://arxiv.org/pdf/2405.03820> Erişim Tarihi 31 Ağustos 2024, s. 1-9.
• Cristofoloni C, “Navigating the impact of AI systems in the workplace: strengths and loopholes of the EU AI Act from a labour perspective”, Italian Labour Law e-Journal, 17 (1), 2024, <https://illej.unibo.it/article/view/19796/18192> Erişim Tarihi 31 Ağustos 2024, s. 75-103.
• Cumhurbaşkanlığı Dijital Dönüşüm Ofisi, “Chatbot Uygulamaları ve ChatGPT Örneği”, 2023, < https://cbddo.gov.tr/SharedFolderServer/Genel/21.Chatbot-Uygulamas%C4%B1-ve-ChatGPT-%C3%96rne%C4%9Fi-De%C4%9Ferlendirme-Raporu.pdf > Erişim Tarihi 08 Kasım 2024, s. 1-67.
• Çekin M S/ Berktaş A E/ Akıncı M F, Veri Hukuku, 1. Bası, Oniki Levha, 2023.
• Devetzis D ve Samaras S, “Consumer Protection Safeguards after the AI Act”, Perspectives of Law and Public Administration, 13 (2), 2024, https://www.adjuris.ro/revista/articole/An13nr2/12.pdf Erişim Tarihi 31 Ağustos 2024, s. 298-309.
• Ebers M, “Truly Risk-based Regulation of Artificial Intelligence How to Implement the EU’s AI Act”, EU Law Working Papers No. 101, Stanford-Vienna Transatlantic Technology Law Forum, 2024, <https://law.stanford.edu/publications/no-101-truly-risk-based-regulation-of-artificial-intelligence-how-to-implement-the-eus-ai-act/ > Erişim Tarihi 08 Kasım 2024, s. 1-20.
• EU, <https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai> Erişim Tarihi 31 Ağustos 2024.
• EU, <https://digital-strategy.ec.europa.eu/en/library/communication-building-trust-human-centric-artificial-intelligence> Erişim Tarihi 31 Ağustos 2024.
• EU <https://eur-lex.europa.eu/oj/daily-view/Lseries/default.html?&ojDate=12072024> Erişim Tarihi 31 Ağustos 2024. EU, https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence Erişim Tarihi 31 Ağustos 2024. EU, <https://digital-strategy.ec.europa.eu/en/news/commission-launches-ai-innovation-package-support-artificial-intelligence-startups-and-smes> Erişim Tarihi 31 Ağustos 2024.
• EU, <https://eur-lex.europa.eu/legal content/EN/TXT/PDF/?uri=CELEX:52018DC0237&from=EN> Erişim Tarihi 31 Ağustos 2024. EU, <https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai > Erişim Tarihi 05 Kasım 2024.
• Görentaş B/ Çiftçi H, “Avrupa Birliği Yapay Zekâ Yasası Çerçevesinde Yargılamada Yapay Zekâ Kullanımının Değerlendirilmesi”, İzmir Barosu Dergisi, 89 (1), 2024, s. 177-203.
• Gulley A/ Hilliard A, “Lost in Transl(A)t(I)on: Differing Definitions of AI [Updated]”, (Holistic AI, 2024) <https://www.holisticai.com/blog/ai-definition-comparison> Erişim Tarihi 31 Ağustos 2024.
• Gültekin-Várkonyi G, “Yüz Tanıma Teknolojileri ve Yapay Zekâ Tüzüğü”, İstanbul Barosu Yapay Zekâ Çalışma Grubu Üretken Yapay Zekâ ve Hukuki Meseleler Konferans Bildirisi, 2024, <https://www.istanbulbarosu.org.tr/files/komisyonlar/yzcg/yzcg_uretkenyzvehukukimeseleler.pdf> Erişim Tarihi 31 Ağustos 2024, s. 7-12.
• Hacker P/ Engel A/ Mauer M, “Regulating ChatGPT and Other Large Generative AI Models” (Oxford Business Law Blog, 2023) <https://blogs.law.ox.ac.uk/oblb/blog-post/2023/03/regulating-chatgpt-and-other-large-generative-ai-models> Erişim Tarihi 31 Ağustos 2024.
• Helberger N/ Diakopoulos N, “ChatGPT and the AI Act”. Internet Policy Review, 12 (1), 2023, <https://policyreview.info/pdf/policyreview-2023-1-1682.pdf >, s. 1-6.
• İstanbul Barosu Yapay Zekâ Çalışma Grubu, <https://www.istanbulbarosu.org.tr/files/docs/AvrupaBirligiYapayZekâya%C4%B0liskinTuzukTeklifiTurkceTercumesi.pdf > Erişim Tarihi 31 Ağustos 2024.
• İstanbul Barosu Yapay Zekâ Çalışma Grubu, “Geçmişten Bugüne Yapay Zekâ Düzenlemesi Teklifi” (İstanbul Barosu, 2024) <https://www.istanbulbarosu.org.tr/files/komisyonlar/yzcg/gecmistengunumuzeyz.pdf> Erişim Tarihi 31 Ağustos 2024.
• Institute for Human-Centered AI, “Artificial Intelligence Index Report 2024” (HAI, 2024), https://aiindex.stanford.edu/wp-content/uploads/2024/05/HAI_AI-Index-Report-2024.pdf Erişim Tarihi 27 Ekim 2024.
• Karadeniz S, “Medeni Yargılamada Yapay Zekâ Kullanımı: Hâkim Yapay Zekâ, Faydaları ve Sakıncaları Üzerine Bir Değerlendirme”, Serkan Kaya (Ed.), Gelişen Teknolojilerin Medeni Usul Hukukuna Etkileri, Seçkin, 2023, s. 205-238. Kecolegal <https://www.kecolegal.com/post/avrupa-birligi-yapay-Zekâ-yasasi-yururluge-girdi> Erişim Tarihi 31 Ağustos 2024.
• Kişisel Verileri Koruma Kurulu, “Sohbet Robotları (Chatgpt Örneği) Hakkında Bilgi Notu”, 2024, <https://www.kvkk.gov.tr/SharedFolderServer/CMSFiles/967c7518-2a4c-4318-9c97-01dcac2591f3.pdf > Erişim Tarihi 08 Kasım 2024, s. 1-9.
• Llorca D F, vd. “An interdisciplinary account of the terminological choices by EU policymakers ahead of the final agreement on the AI Act: AI system, general purpose AI system, foundation model, and generative AI” Artif Intell Law, 2024, <https://doi.org/10.1007/s10506-024-09412-y> Erişim Tarihi 31 Ağustos 2024, s. 1-14.
• Loon Ho1 C W/ Caals K, “How the EU AI Act Seeks to Establish an Epistemic Environment of Trust”, Asian Bioethics Review, 16, 2024, <https://doi.org/10.1007/s41649-024-00304-6> Erişim Tarihi 31 Ağustos 2024, s. 345–372.
• Madiega T/ Van De Pol A L, “Artificial intelligence act and regulatory sandboxes”. European Parliamentary Research Service, 733.544, 2022,<https://www.europarl.europa.eu/RegData/etudes/BRIE/2022/733544/EPRS_BRI(2022)733544_EN.pdf> Erişim Tarihi 31 Ağustos 2024, s. 1-6.
• Malgieri G, “Human vulnerability in the EU Artificial Intelligence Act”, (OUPBlog, 2024) <https://blog.oup.com/2024/05/human-vulnerability-in-the-eu-artificial-intelligence-act/> Erişim Tarihi 31 Ağustos 2024.
• Metikos L/ Ausloos J, “The Right to an Explanation in Practice: Insights from Case Law for the GDPR and the AI Act (August 06, 2024)” Forthcoming in Law, Innovation, and Technology (Pre-publication) 17 (2) 2025, <https://ssrn.com/abstract= > Erişim Tarihi 02 Kasım 2024.
• Novelli C vd., “A Robust Governance for the AI Act: AI Office, AI Board, Scientific Panel, and National Authorities”, 2024, <https://ssrn.com/abstract=4817755> Erişim Tarihi 31 Ağustos 2024.
• Okçu M/ Düz S, “Dijital Çağ Başlarken: Avrupa Birliği’nin Dijitalleşme ve Yapay Zekâ Stratejileri”, Süleyman Demirel Üniversitesi İktisadi ve İdari Bilimler Fakültesi Dergisi, 28 (2), 2023, s. 221-240.
• Paessler, “IT Explained: CCTV”, (Paessler, 2024) <https://www.paessler.com/it-explained/cctv> Erişim Tarihi 04 Kasım 2024.
• Pok L, Deep dive into the AI Act - Part 1: what does the adoption of the ai act mean in practice<https://gdpr.blog.hu/2024/06/03/preparing_to_apply_the_ai_regulation_part_1_what_does_the_adoption_of_the_ai_act_mean_in_practice> Erişim Tarihi 31 Ağustos 2024.
• Pok L, “Deep dive into the AI Act - Part 2: the scope of the AI Act”, (GDPR, 2024) <https://gdpr.blog.hu/2024/06/10/deep_dive_into_the_ai_act_part_2_the_scope_of_the_ai_act> Erişim Tarihi 31 Ağustos 2024.
• Pok L, “Deep dive into the AI Act - Part 3: the definition of AI systems”, (GDPR, 2024) <https://gdpr.blog.hu/2024/06/10/deep_dive_into_the_ai_act_part_3_the_definition_of_ai_systems> Erişim Tarihi 31 Ağustos 2024.
• Pok L, “Deep dive into the AI Act - Part 5: Prohibited AI practices”, (GDPR, 2024) <https://gdpr.blog.hu/2024/07/11/deep_dive_into_the_ai_act_part_5_prohibited_ai_practices> Erişim Tarihi 31 Ağustos 2024.
• Ramos S/ Ellul J, “Blockchain for Artificial Intelligence (AI): enhancing compliance with the EU AI Act through distributed ledger technology”, A cybersecurity perspective. International Cybersecurity Law Review, 5, 2024, <https://doi.org/10.1365/s43439-023-00107-9 > Erişim Tarihi 31 Ağustos 2024, s. 1-20.
• Ringe W-G, “Why We Need a Regulatory Sandbox For AI” (Oxford Business Law Blog, 2023) <https://blogs.law.ox.ac.uk/oblb/blog-post/2023/05/why-we-need-regulatory-sandbox-ai> Erişim Tarihi 31 Ağustos 2024.
• Stieper M/ Denga M, “The International Reach of EU Copyright Through the AI Act” Beiträge zum Transnationalen Wirtschaftsrecht, No. 194, s. 13, < https://www.econstor.eu/bitstream/10419/304446/1/1906198926.pdf > Erişim Tarihi 03 Kasım 2024.
• Söderlund K/ Larsson S, “Enforcement Design Patterns in EU Law: An Analysis of the AI Act”, Digital Society, 3 (41), 2024, <https://doi.org/10.1007/s44206-024-00129-8> Erişim Tarihi 31 Ağustos 2024, s. 1-21.
• Testsigma <https://testsigma.com/blog/what-is-sandbox/> Erişim Tarihi 31 Ağustos 2024.
• T.C. Ticaret Bakanlığı <https://ticaret.gov.tr/data/5b88443f13b87711604c92b1/CE_isareti_ile_ilgili_Soru_ve_Cevaplar.pdf> Erişim Tarihi 31 Ağustos 2024.
• Toner H, “What Are Generative AI, Large Language Models, and Foundation Models?” (CSET, 2023) <https://cset.georgetown.edu/article/what-are-generative-ai-large-language-models-and-foundation-models/> Erişim Tarihi 31 Ağustos 2024.
• Özyiğit S, “Karşılaştırmalı Hukuktaki Gelişmeler Işığında Deepfake Teknolojisinin Regülasyonu ve Türk Hukuku İçin Öneriler”, Şerafettin Ekici, Muhammed Avşar ve Ekrem Solak (Eds.), Bilişim ve Teknoloji Hukuku Yıllığı 2022, Adalet, 2022, s. 479-513.
• UNESCO, “Consultation paper on AI regulation: emerging approaches across the world”, CI/DIT/2024/CP/01, < https://unesdoc.unesco.org/ark:/48223/pf0000390979 > Erişim Tarihi 08 Kasım 2024, s. 1-49.
• Yang Z, “China just announced a new social credit law. Here’s what it means”, (MIT Technology Review, 2022) <https://www.technologyreview.com/2022/11/22/1063605/china-announced-a-new-social-credit-law-what-does-it-mean/> Erişim Tarihi 31 Ağustos 2024.
• Yıldırımer A, “Enformasyon Çağında Gözetim Toplumu: Facebook Cambridge Analytica Skandalı” Yeni Medya Elektronik Dergisi, 6 (2) 2022, s. 104-112. <https://dergipark.org.tr/tr/download/article-file/2364017> Erişim Tarihi 26 Ekim 2024.
• Yılmaz İ/ Sözer C/ Elver E, “Yapay Zekâ ile İlgili Güncel Düzenlemeler: Avrupa Birliği ve Amerika Birleşik Devletlerinde Alınan Aksiyonlar Işığında Bir Değerlendirme”, Adalet Dergisi, 1 (66), 2021, s. 445-469. Zhong H/ O’Neill E/ Hoffmann J A, “Regulating Ai: Applying Insights From Behavioural Economics And Psychology To The Application Of Article 5 Of The EU AI Act”, Proceedings of the AAAI Conference on Artificial Intelligence, 38 (18), 2024, <https://doi.org/10.1609/aaai.v38i18.29977> Erişim Tarihi 31 Ağustos 2024, s. 1-11.