Does the European Union Artificial Intelligence Act Hallucinate? Considerations regarding the Classification of “Limited Risk AI Systems” and the Obligations Per Article 50

Öz

The European Union Artificial Intelligence Act (the “AIA”) is widely regarded as the first comprehensive and general regulatory framework for artificial intelligence (“AI”). Indeed, the AIA significantly impacts not only the European Union (“EU”) and the actors operating within its economic ecosystem directly, but also indirectly influences numerous countries

-including Türkiye- as well as legal and natural persons, due to the Brussels Effect.

Adopting a risk-based approach, it is generally deemed that the AIA categorizes AI systems into four categories: (i) unacceptable risk, (ii) high-risk, (iii) limited-risk and (iv) minimal-risk AI systems. It is posited that high-risk AI systems emerge as a focal point of the AIA, since the vast majority of the AIA’s provisions govern this specific category. In practice, however, most existing AI systems do not fall into the higher-risk tiers, but rather belong to what the doctrine refers to as “limited-risk AI systems”. Therefore, close attention must be paid to these systems, which often receive “stepchild” treatment compared to their prohibited and high-risk counterparts.

For this very reason, this study focuses on limited-risk AI systems, addressing the topic through two main issues: first, the accuracy -and indeed the very existence- of this nomenclature; and second, the legal obligations imposed on the operators of this “stepchild” category. After clearly delineating the scope of the subject, the study briefly outlines the general purpose, scope, and significance of the AIA. Subsequently, it examines “limited-risk AI systems”, their operators, and the corresponding regulatory obligations. In detailing these duties, the current provisions of the AIA are analyzed alongside relevant amendments introduced by the Digital Omnibus on AI (“Omnibus”). In addition to that, “guidelines” and “code of practice” will also be examined. Finally, the study concludes with a summary of our key findings and recommendations.

Anahtar Kelimeler

• EU AI Act
• Limited Risk AI Systems
• Transparency
• Artificial Intelligence
• IT Law

Avrupa Birliği Yapay Zeka Tüzüğü Halüsinasyon Mu Görüyor? “Sınırlı Riskli Yapay Zeka Sistemleri” Sınıflandırması Üzerine Bir Değerlendirme ve 50. Maddede Öngörülen Yükümlülükler

Öz

Avrupa Birliği Yapay Zeka Tüzüğü (“Tüzük”); yapay zeka alanında genel nitelikte ve kapsayıcı ilk düzenleme olarak nitelendirilmektedir. Gerçekten de Tüzük, hem doğrudan Avrupa Birliği (“AB”) ve bu ekonomik sistemde faaliyette olan aktörleri hem de Brüksel etkisiyle dolaylı olarak ülkemiz de dahil, birçok ülke, tüzel ve gerçek kişiyi etkilemektedir.

Yaklaşım olarak risk temelli bir değerlendirme belirleyen Tüzük’ün, yapay zeka sistemlerini; (i) yasaklı, (ii) yüksek riskli, (iii) sınırlı riskli ve (iv) minimum riskli yapay zeka sistemleri olarak dört kategoriye ayırdığı genel olarak kabul edilmektedir.Bu risk temelli yaklaşımın merkezinde ise, yüksek riskli yapay zeka sistemleri olduğu ifade edilebilir. Zira, Tüzük’ün hükümlerinin büyük bir kısmı yüksek riskli yapay zeka sistemlerine ilişkindir. Oysa, mevcut yapay zeka sistemleri çoğunlukla bu kategorilerden ziyade, öğretide “sınırlı riskli yapay zeka sistemleri” olarak ifade edilen sistemlere dahildir. Dolayısıyla, yasaklı ve yüksek riskli sınıflandırmasına nazaran “üvey evlat” muamelesi gören bu sistemlere dikkatle eğilmek gerekir.

İşte bu sebeple, işbu çalışma merkezine bu sistemleri almakta ve konuya iki farklı soru/sorun üzerinden yaklaşmaktadır. İlki, bu adlandırmanın doğru olup olmadığı, hatta var olup olmadığı, diğeri ise bu “üvey evlat”ın operatörlerinin yükümlülükleridir. Bu bağlamda konunun sınırları net bir şekilde çizildikten sonra, genel olarak Tüzük’ün amacı, kapsamı ve önemi kısaca belirtilecektir. Ardından, “sınırlı riskli yapay zeka sistemleri”, bunların operatörleri ve bu operatörlerin yükümlülükleri ele alınacaktır. Bu yükümlülüklerde, mevcut Tüzük düzenlemelerinin yanı sıra, yeri geldikçe Digital Omnibus on AI (“Omnibus”) bağlamındaki değişiklikler de belirtilecektir. Keza, ilgili rehber ve uygulama kuralları da değerlendirmeye katkı sağlayacaktır. Nihayet çalışma, tespit ve önerilerimizi özetleyen bir bölümle sonuçlandırılacaktır.

Anahtar Kelimeler

• AB Yapay Zeka Tüzüğü
• Sınırlı Riskli Yapay Zeka Sistemleri
• Şeffaflık
• Yapay Zeka
• Bilişim Hukuku

Kaynakça

1. A&O SHEARMAN. (2024). Zooming in on AI #11: EU AI Act - What Are the Obligations for the Limited-Risk AI Systems. Lexology. https://www.lexology.com/ library/detail.aspx?g=68bb1057-cf61-4d48-bc50-f7e010581cba (E.T. 18.07.2026).
2. AI HLEG (HIGH-LEVEL EXPERT GROUP ON ARTIFICIAL INTELLIGENCE). (2019). Ethics Guidelines for Trustworthy AI. Brussels: European Commission.
3. AKBULUT, B., AKBULUT, M. T. (2025). Yapay Zekâ Yasasında Risk Kategorileri. Necmettin Erbakan Üniversitesi Hukuk Fakültesi Dergisi, 8(1), 466-496.
4. AKKURT, S. S. (2019). Yapay Zekânın Otonom Davranışlarından Kaynaklanan Hukuki Sorumluluk. Uyuşmazlık Mahkemesi Dergisi, 7(13), 39-59.
5. AKSOY, H. C. (2025). Yapay Zekânın Yol Açtığı Zararlardan Hukuki Sorumluluk. F. Bilir (Ed.), Yapay Zekâ Teknolojilerine Akademik Bakış. Kişisel Verileri Koruma Kurumu Yayınları. Ankara.
6. AKSOY RETORNAZ, E. E. (2025). Yapay Zeka Algoritmalarıyla Profilleme ve Kişisel Verilerin Korunması. F. Bilir (Ed.), Yapay Zekâ Teknolojilerine Akademik Bakış. Kişisel Verileri Koruma Kurumu Yayınları. Ankara.
7. AKSU, M. (2023). Yapay Zeka ve Hukuk. M. Aksu (Yay. haz.), Yapay Zekâ ve Hukuk: Teknik ve Hukuki Altyapı ve Çerçeve (s. 3-304). On İki Levha Yayıncılık.
8. BENZER, E. (2025). Yapay Zeka’nın AB Hukuk Düzenindeki Görünümü: AB Yapay Zekâ Tüzüğü. Bilişim Hukuku Dergisi, 7(1), 187-221.

9. BÜYÜKÖZKAN FEYZİOĞLU, G. (2021). Gelişen Teknolojiler ve Hukuk II: Yapay Zekâ. O. G. Güçlütürk, E. E. Aksoy Retornaz (Yay. haz.), Dijitalleşen Dünyada Yapay Zekâ. On İki Levha Yayıncılık.
10. CANTÜRK, B. C. (2025). Avrupa Yapay Zekâ Yasasının Enstrümanlarını Yeniden Tanımlamak. S. Yılmaz ve diğerleri (Ed.), Türkiye, Avrupa Yapay Zeka Yasası Işığında Yapay Zeka Regülasyonunu Konuşuyor. Seçkin. [CANTÜRK, 2025]
11. CANTÜRK, B. C. (2026). AB Yapay Zeka Tüzüğü’nde Yüksek Riskli Yapay Zeka Sistemlerinde Sağlayıcıların Yükümlülükleri. 12. Uluslararası Asos Congress Hukuk Sempozyumu Özet Kitabı, s.96-98. [CANTÜRK, 2026].
12. DÖNMEZ, Z. (2025). Yapay Zekanın Hukuki Gelişimi ve AB Yapay Zeka Yasası. Adalet Dergisi, 74, s.947-975.
13. DUNN, P., DE GREGORIO, G. (2022). The Ambiguous Risk-Based Approach of the Artificial Intelligence Act: Links and Discrepancies with Other Union Strategies. Amsterdam.
14. EBERS, M. (2024). Truly Risk-based Regulation of Artificial Intelligence: How to Implement the EU’s AI Act. Tallinn.
15. EU PARLIAMENT RESEARCH SERVICE. (2024). Artificial Intelligence Act. https://www.europarl.europa.eu/RegData/etudes/BRIE/2021/698792/EPRS_BRI(2021)698792_EN.pdf (E.T. 18.07.2026).
16. EUROPEAN COMMISSION. (2026). Code of Practice on Transparency of AI-Generated Content. https://ec.europa.eu/newsroom/dae/redirection/document/129555 (E.T. 09.09.2026) [EUROPEAN COMMISSION, CoP]
17. EUROPEAN COMMISSION. (2026). Communication to the Commission: Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of Regulation (EU) 2024/1689 (the ‘AI Act’), C(2026) 5054 final, Brussels, 20.7.2026. [EUROPEAN COMMISSION, Guidelines]
18. GÜÇLÜTÜRK, O. G. (2022). Yapay Zeka ve Verinin Kullanımı. On İki Levha Yayıncılık. [GÜÇLÜTÜRK, KİTAP].
19. GÜÇLÜTÜRK, O. G. (2025). Kodlar ve Kanunlar: Yapay Zekânın Regülasyon Rotası ve AB Yapay Zekâ Tüzüğü. F. Bilir (Ed.), Yapay Zekâ Teknolojilerine Akademik Bakış. Kişisel Verileri Koruma Kurumu Yayınları. Ankara. [GÜÇLÜTÜRK, BÖLÜM].
20. JUSTO-HANANI, R. (2026). Risk-Based Approach to EU AI Act: Benefits and Challenges of Co-Regulation. Policy Design and Practice, 9(2), 171-180.
21. KARADENİZ, S. (2025). Avrupa Birliği Yapay Zekâ Kanunu’nun Risk Grupları ve İlgililerin Yükümlülükleri Bağlamında İncelenmesi. HBV-HFD, 29(1), 307-365.
22. KASIMOĞLU, M. (2026). Yapay Zeka İle Üretilen İçerikler Bakımından Eser Sahipliği. Türkiye Adalet Akademisi Dergisi, 17(67), 743-770.
23. KİŞİSEL VERİLERİ KORUMA KURUMU. (2025). Sohbet Robotları (ChatGPT Örneği) Hakkında Bilgi Notu. KVKK Yayınları No: 82. Ankara. https://www.kvkk.gov.tr/Icerik/8047/Sohbet-Robotlari-ChatGPT-Ornegi-Hakkinda-Bilgi-Notu (E.T. 18.07.2026).
24. ÖZYİĞİT, S. (2022). Karşılaştırmalı Hukuktaki Gelişmeler Işığında Deepfake: Türk Hukuku İçin Öneriler. Bilişim ve Teknoloji Hukuku Yıllığı, 479-513.
25. SALOUSTROU, C. M. (2024). The Legal Framework for Low- and Minimum-Risk AI Systems under the AI Act. SSRN. https://doi.org/10.2139/ssrn.5192868 (E.T. 18.07.2026).
26. SMUHA, N. A., YEUNG, K. (2025). The European Union’s AI Act: Beyond Motherhood and Apple Pie? N. A. Smuha (Ed.), The Cambridge Handbook of the Law, Ethics and Policy of Artificial Intelligence, 228-258, Cambridge University Press. Cambridge.
27. TURAN BAŞARA, G. (2025). Avrupa Dijital Düzenleme Sisteminde Yapay Zekâ Yasası. Ankara Üniversitesi Hukuk Fakültesi Dergisi, 73(4), 2983-3016.
28. YAMAK, Y. (2025). Yapay Zekâ ile İlgili Güncel Düzenleme Çalışmaları: AB, ABD ve Türkiye Açısından İncelenmesi. Bilgi Teknolojileri ve İletişim Dergisi, 3(1), 35-67.
29. YEŞİLTUNA, O. (2025). AB Yapay Zekâ Yasası Uyarınca Deployer Kavramı: Yasama Sürecindeki Seyri, Getirdikleri ve Türkçe Karşılığı Sorunu. SÜHFD, 33(4), 2607-2649.
30. ZHANG, J., PAAL, B. (2025). Three-Layered Framework: An AI Governance Guide for Global Policymakers. Columbia Journal of European Law, 31(1), 1-39.