Yapay Zekâ Yasasında Risk Kategorileri

Abstract

Yapay zekâda yaşanan önemli gelişmeler Avrupa Birliği Yapay Zekâ Yasasının yürürlüğe konması sonucunu doğurmuştur. Yasada, yapay zekânın temel insan haklarına etkisine göre “risk temelli” bir yaklaşım sergilenmiştir. Yapay zekâ sistemleri, yasaklanmış veya kabul edilemez riskli yapay zekâ sistemleri, yüksek riskli yapay zekâ sistemleri, sınırlı riskli yapay zekâ sistemleri ve minimum veya asgari riskli yapay zekâ sistemleri olarak sınıflandırılmıştır. Yapay Zekâ Yasası, getirdiği düzenlemeyle hangi yapay zekâ sistemlerinin izin verilen risk içerisinde nitelendirileceğini de göstermektedir Yasa, risk kategorileri kabul etmekle beraber bunlara birçok istisna da getirmiştir. Yapay Zekâ Yasası bu alanda ilk yasa niteliğinde olup Birlik içindeki yapay zekâyı üreten, hizmete sunan, kullanan tüm kişilere uygulanacaktır. Ayrıca Yasada, yasanın uygulanmayacağı hallere de yer verilmektedir. Yapay Zekâ Yasası, gelişmeleri karşılamak amacıyla geniş belirleme yapmakla beraber, düzenlemede kabul edilen esaslar ve getirilen çok sayıda istisnalar eleştirileri de beraberinde getirmiştir.

Keywords

• Yapay Zekâ
• Risk
• Avrupa Birliği
• Yapay Zekâ Yasası
• Temel Haklar

Risk Categories in Artifical Intelligence Act

Abstract

Significant advances in artificial intelligence resulted in putting the European Union Artificial Intelligence Act into effect. The act takes a “risk-based” approach based on the impact of artificial intelligence on fundamental human rights. Artificial intelligence systems are categorized as prohibited or unacceptable-risk artificial intelligence systems, high risk artificial intelligence systems, limited risk artificial intelligence systems, and minimal or minimum risk artificial intelligence systems. The Artificial Intelligence Act identifies which artificial intelligence systems fall under acceptable risk through its provisions. The act introduces many exceptions along with acknowledging risk categories. The Artificial Intelligence Act is the first law in this field and will be applied to everyone who develops, provides service of, and uses artificial intelligence in the Union. It also includes cases where the law cannot be applied. Although the Artificial Intelligence Act makes broad determinations to keep up with developments, the accepted principles and the many exceptions introduced have brought criticism.

Keywords

• Artificial Intelligence
• Risk
• European Union
• Artificial Intelligence Act
• Fundamental Rights

References

1. Akkuş, Tolga, “Öngörücü Polislik (Predpol)”, https://www.tolgaakkus.com/2019/10/27/ongorucu-polislik-predpol/).
2. Aksoy, Hakan, “Yapay Zekâlı Varlıklar ve Ceza Hukuku”, International Journal of Economics, Politics, Humanities & Social Sciences, V. 4, I. 1, 2021, s. 10-27.
3. “AB Komisyon’undan ilk Yapay Zekâ Düzenlemesi”, https://www.gsghukuk.com/tr/bultenler- yayinlar/duyurular/ab-komisyonundan-ilk-yapay-zekâ-duzenlemesi.html. E.T: 01.05.2025
4. “Avrupa Birliği Yapay Zekâ Yasası’na İlk Bakış”, https://www.lexology.com/library/detail.aspx?g=85d8e8f9-53eb- 497e-87ed-37e050615a2c. E.T: 27.04.2025.
5. Birdişli, Fikret, “Ulusal Güvenlı̇k Kavramının Tarı̇hsel ve Düşünsel Temellerı̇”, Erciyesi Üniversitesi Sosyal Bilimler Enstitüsü Dergisi, C. 1, S. 31, 2011, s.149-169.
6. Bozkurt-Yüksel, Armağan Ebru, “Avrupa Komisyonu’nun Yapay Zekâ Tüzük Teklifi’ne Genel Bir Bakış”, Türkiye Adalet Akademisi Dergisi, C. 13, S. 51, 2022, s. 19-46.
7. Bryson, Joanna J, “Europe is in Danger of Using the Wrong Definition of AI”, https://www.wired.com/story/artificial- intelligence-regulation-european-union/. E.T: 10.05.2025.
8. Canan, Kaan, “Yargı Sisteminde Yapay Zekâ”, Yargı Sisteminde Yapay Zekâ - Sarkaç E.T: 10.05.2025.

9. Doğan, Nuren/Hatipoğlu, Ayfer/Keskiner, Muratcan/Tarlacı, Sultan, “Subliminal Uyarıcıların Nöropsikolojisi”, Current Research and Reviews in Psychology and Psychiatry, C. 2, S. 2, 2022, s. 217-243.
10. Elitaş, Türker, “Dı̇jı̇tal Manı̇pülasyon ‘Deepfake’ Teknolojı̇sı̇ ve Olmayanın İnandırıcılığı”, Hatay Mustafa Kemal Üniversitesi Sosyal Bilimler Enstitüsü Dergisi, C. 19, S. 49, 2022, s. 113-128.
11. Ercan, Cannur, “Robotların Fiillerinden Doğan Hukuki Sorumluluk Sözleşme Dışı Sorumluluk Hallerinde Çözüm Önerileri”, Türkiye Adalet Akademisi Dergisi, C. 11, S. 40, 2019, s. 19-51.
12. European Commission, Annex to the Communication to the Commission Approval of the Content of the Draft Communication from the Commission - Commission Guidelines on Prohibited Artificial Intelligence Practices Established by Regulation (EU) 2024/1689, C(2025) 884, Brussels, 04.02.2025, https://digital- strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai- practices-defined-ai-act. E.T. 27.02.2025.
13. “EU’s AI Act Fails to Set Gold Standard for Human Rights”, https://www.amnesty.eu/wp- content/uploads/2024/04/EUs-AI-Act-fails-to-set-gold-standard-for-human-rights.pdf. E.T: 29.04.2025.
14. Görentaş, Muhammed Burak/Çiftçi, Hamza, “Avrupa Birliği Yapay zekâ Yasası Çerçevesinde Yargılamada Yapay Zekâ Kullanımının Değerlendirilmesi”, İzmir Barosu Dergisi, C. 69, S. 1 2024, s. 177-203.
15. Güçlütürk, Osman Gazi, Türk Hukukunda Makine Öğrenmesine Dayalı Yapay Zekâda Verinin Hukuka Uygun Şekilde Kullanılması, Galatasaray Üniversitesi Sosyal Bilimler Enstitüsü, Doktora Tezi, 2021.
16. Ienca, Marcello, “On Artificial Intelligence and Manipulation”, Topoi, An International Review of Philosophy, V. 42, 2023, s. 833-842. Karadeniz, Salih, “Avrupa Birliği Yapay Zekâ Kanunu’nun Risk Grupları ve İlgililerin Yükümlülükleri Bağlamında İncelenmesi”, Hacı Bayram Veli Üniversitesi Hukuk Fakültesi Dergisi, C. 29, S. 1, 2025, s. 307-366.
17. Lazaro Cabrera, Laura, “EU AI Act Brief – Pt. 2, Privacy & Surveillance”, https://cdt.org/insights/eu-ai-act-brief-pt- 2-privacy-surveillance/. E.T: 01.05.2025.
18. McCarthy, John/ Minsky, Marwin L./ Rochester, Nathaniel/ Shannon, Claude E., “A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence August 31, 1955”, AI Magazine, V. 27 I. 4, 2006, s. 12-14.
19. McCorduck, Pamela, Machines Who Think: A Personal Inquiry into the History and Prospects of Artificial Intelligence, 2. Edition, A K Peters / CRC Press, Natick, 2004.
20. Okçu, Murat/Akman, Elvettin, “Yapay Zekâ ve Kamu Politikası: Ülkelerin Yapay zekâ Strateji Belgeleri Üzerinden Bir Değerlendirme”, https://www.academia.edu/46724729/YAPAY_ZEKÂ_VE_KAMU_POLİTİKASI_ÜLKELERİN_YAPAY_ZEKÂ_STRATEJİ_BEL GELERİ_ÜZERİNDEN_BİR_DEĞERLENDİRME. E.T: 10.05.2025
21. Okçu, Murat/Düz, Sabiha, “Dijital Çağ Başlarken: Avrupa Birliği’nin Dijitalleşme ve Yapay zekâ Stratejileri”, Süleyman Demirel Üniversitesi İktisadi ve İdari Bilimler Fakültesi Dergisi, C. 28 S. 2, 2023, s. 221-240.
22. “Packed With Loopholes: Why the AI Act Fails to Protect Civic Space and The Rule of Law, In A New Analysis, ECF, Liberties and The European Center for Not-for-Profit Law Assess the AI Act From a Civic Space and Rule of Perspective”, https://civic-forum.eu/advocacy/artificial-intelligence/packed-with-loopholes-why-the-ai-act- fails-to-protect-civic-space-and-the-rule-of-law. E.T: 01.05.2025.
23. Sheikh, Haroon/ Prins, Corien/ Schrijvers, Eric, Mission AI, The New System Technology, Electronic, Springer, 2023. Soysal, Tamer, “Endüstri 4.0 ve İnsan Hakları: Yeni Ortaya Çıkan Teknolojik Gelişmelerin İnsan Hakları Üzerindeki Dönüştürücü Etkiler”, Ankara Barosu Uluslararası Hukuk Kurultayı 2020 (9 Ocak-12 Ocak 2020), Ankara 2021, s. 245- 324.
24. Şamlı, Rüya/Yüksel, M. Erkan, “Biyometrik Güvenlik Sistemleri”, https://ab.org.tr/ab09/sunum/102.pdf. E.T: 27.04.2025.
25. “The AI Act Needs a Practical Definition of ‘Subliminal Techniques”, https://www.euractiv.com/section/tech/opinion/the-ai-act-needs-a-practical-definition-of-subliminal- techniques/. E.T: 10.05.2025.
26. Tuncel, Deniz/Tokgöz, Gizem/Tuğanlı, Tilbe/Dedebaş, Tan, “Avrupa Birliği Yapay Zekâ Yasası’na İlk Bakış”, https://www.lexology.com/library/detail.aspx?g=85d8e8f9-53eb-497e-87ed-37e050615a2c. E.T: 01.05.2025.
27. Turan Başara, Gamze, “Avrupa Dı̇jı̇tal Düzenleme Sı̇stemı̇nde Yapay Zekâ Yasası”, AÜHFD, 73 (4), 2024, https://dergipark.org.tr/tr/download/article-file/4334177, s. 2983-3016.
28. Turing, Alan M, Computing Machinery and Intelligence, Parsing the Turing Test, Robert Epstein, Springer,1. Edition, Dordrecht 2009.
29. Ünsal Özden, Sevgi, “Avrupa Birliği Yapay Zekâ Yasası’nın Türkiye’deki Aktörlere Yansımaları”, https://www.erdem- erdem.av.tr/bilgi-bankasi/avrupa-birligi-yapay-zekâ-yasasinin-turkiyedeki-aktorlere-yansimalari. E.T: 10.05.2025.
30. Vogiatzoglou, Plixavra, “The AI Act National Security Exception, room for manoeuvres?”, https://verfassungsblog.de/the-ai-act-national-security-exception/. E.T: 01.05.2025.
31. “Yapay Zekâda Yasaklanan Uygulamalar”, https://arclaw.services/yapay-zekâda-yasaklanan-uygulamalar/. E.T: 02.05.2025. Yazıcı, Ayşe Nur Merve, Otonom Aracın Sebep Olduğu Zararlardan Üreticinin Kusursuz Sorumluluğu, I. Baskı, Adalet Yayınevi, Ankara 2023.
32. https://aposto.com/s/donum-noktasi-abnin-yapay-zekâ-yasasi-ne-getirecek; https://journo.com.tr/avrupa- birligi-yapay-zekâ-yasasi-eu-ai-act. E.T: 27.04.2025.
33. https://www.istanbulbarosu.org.tr/files/komisyonlar/yzcg/guveniliryapayzekâicinetikkilavuz.pdf E.T: 10.05.2025.
34. https://www.aa.com.tr/tr/dunya/avrupa-parlamentosu-yapay-zekâ-yasasini-onayladi/3163480. E.T: 10.04.2025.
35. https://www.ab.gov.tr/ab-yapay-zekâ-yasasi-yayimlandi_53836.html. E.T: 10.05.2025.
36. https://ceviklegal.com/avrupa-birligi-yapay-zekâ-yasasi-madde-6-ve-ek-iii-kapsaminda-kisa-bilgi-notu/#:~:text=Ek%20III%3A%20Yüksek%20Riskli%20Yapay%20Zekâ%20Sistemleri%20Listesi&text=Biyometrik%20Sistemler%3A%20Uzaktan%20biyometrik%20tanımlama,mahremiyetine%20yönelik%20önemli%20riskler%20taşır. E.T: 27.04.2025.
37. Öngörücü polislik - Vikipedi E.T: 10.05.2025.