The Problem of Consciousness in Artificial Intelligence: An Evaluation in Light of Hofstadter’s Notion of “Jumping Out of the System”

Abstract

This study examines whether artificial intelligence can possess consciousness in the sense of self-awareness, approaching the question through the modeling of self-referential representations. To concretize this issue, two visual artworks—Drawing Hands and Las Meninas—are employed as illustrative cases, and the relationship between the modeling of such self-referential structures by AI and self-awareness is investigated. In order to conduct this inquiry on a normative basis, Hofstadter’s notion of “jumping out of the system” is adopted as a criterion for becoming conscious of a representation. Although AI systems may generate seemingly correct outputs regarding these artworks, it is argued that a qualitative difference exists between the linguistic representation of a self-referential structure and its conceptual apprehension. This difference stems from the human mind’s capacity not only to think individual representations but also to reflect on the concept of “representation” itself; through this secondary awareness, the mind can step beyond a given system of thought. This secondary awareness, by virtue of the mind’s turning upon itself, constitutes the basis of self-awareness. After defining consciousness in light of Kant’s philosophy, the study evaluates whether large language models—a specific form of artificial intelligence—can model this kind of self-awareness. In this context, the article focuses on the following question: Can artificial intelligence model this kind of selfhood? In other words, can it jump out of the system when confronted with Las Meninas or Drawing Hands?

Keywords

• Artificial intelligence
• Consciousness
• Self-awareness
• Jumping out of the system
• Self-reference

Yapay Zekâda Bilinç Sorunu: Hofstadter’in Dizgenin Dışına Atlama Görüşü Işığında Bir Değerlendirme

Abstract

Bu çalışmada, yapay zekânın öz farkındalık anlamında bilinç sahibi olup olamayacağı, öz-gönderimli temsillerin modellenmesi üzerinden tartışılmaktadır.Bu temsilleri somutlaştırmak amacıyla birer görsel medya ürünü olan Birbirini Çizen Eller ve Nedimeler isimli resimlerden yararlanılmakta; bu tür öz-gönderimli yapıların yapay zekâ tarafından modellenmesi ile öz farkındalık arasındaki ilişki sorgulanmaktadır. Sorgulamayı normatif bir zeminde yürütmek amacıyla, bir temsilin bilincine varılmasında ölçüt olarak Hofstadter’in “dizgenin dışına atlama” fikri benimsenmektedir. Yapay zekâ sistemleri söz konusu resimler hakkında görünüşte doğru çıktılar sunabilse de öz-gönderimli bir yapının dilsel temsili ile onun kavramsal idraki arasında niteliksel bir fark bulunduğu öne sürülür. Bu fark, insan zihninin tek tek temsilleri düşünmekle yetinmeyip “temsil” kavramının kendisi üzerine de düşünebilmesinden; yani bu ikincil farkındalık sayesinde belirli bir düşünüş dizgesiyle sınırlı kalmayıp onun dışına atlayabilmesinden kaynaklanır. Bu ikincil farkındalık, zihnin kendi üzerine yönelmesi yoluyla öz farkındalığın da temelini oluşturur. Çalışmada bilinç kavramını Kant’ın felsefesinden hareketle tanımladıktan sonra yapay zekânın özel bir türü olan “büyük dil modellerinin” böyle bir öz farkındalığı modellemesinin imkanını ele alıyoruz. Bu bağlamda makale şu soruya odaklanır: Yapay zekâ böylesi bir kendiliği modelleyebilir mi?Başka bir ifadeyle, Nedimeler veya Birbirini Çizen Eller resimleri söz konusu olduğunda dizgenin dışına atlayabilir mi?

Keywords

• Yapay zekâ
• Bilinç
• Öz farkındalık
• Dizgenin dışına atlama
• öz-gönderim

References

1. Awret, U. (2008). Las Meninas and the search for self-representation. Journal of Consciousness Studies, 15(9).
2. Basut, L. L. (2022). Kant: Duyumsamanın Temel Kavramları. Ankara: BilgeSu Yayıncılık.
3. Brook, A., & Wuerth, J. (2023). Kant’s View of the Mind and Consciousness of Self. In E. N. Zalta & U. Nodelman (Eds.), The Stanford Encyclopedia of Philosophy. Metaphysics Research Lab, Stanford University.
4. Butterfield, A., Ngondi, G. E., & Kerr, A. (Eds.) (2016). A Dictionary of Computer Science. Oxford University Press. https://doi.org/10.1093/acref/9780199688975.001.0001
5. Çitil, A. A. (2012). Matematik ve Metafizik Kitap 1: Sayı ve Nesne. Alfa Yayınları.
6. Çitil, A. A. (2024). Kant Okumaları: Birinci Kritik. Dergah Yayınları.
7. Dennett, D. C. (2013). Intuition Pumps and Other Tools for Thinking. WW Norton & Company.
8. Feser, E. (2023). Zihin Felsefesi (O. B. Kaplan, Çev.). Babil Kitap.

9. Foucault, M. (2006). Kelimeler ve Şeyler: İnsan Bilimlerinin Bir Arkeolojisi (M. A. Kılıçbay,Çev.). İmge Kitabevi Yayınları.
10. Gamez, D. (2014). The measurement of consciousness: A framework for the scientific study of consciousness. Frontiers in Psychology, 5. https://doi.org/10.3389/fpsyg.2014.00714
11. Gözkan, H. B. (2013). Saf Aklın Eleştirisinde “Ben”in Kuruluşu. İçinde Z. Kutlusoy (Ed.),Tutarsızlığın İz Sürücüsü—Dilde/Düşüncede; Teo Grünberg’e Armağan. İmge Yayınları.
12. Hofstadter, D. R. (2011). Gödel, Escher, Bach: Bir ebedi gökçe belik (E. Akça & H. Koyukan,Çev.). Pinhan Yayıncılık.
13. İbn Sînâ. (2013). İşaretler ve Tembihler: El-işarat ve’t tenbihat (M. Macit, A. Durusoy & E.Demirli, Çev.). Litera Yayıncılık.
14. Kant, I. (1992). Lectures on Logic (J. M. Young, Ed.; 1. bs.). Cambridge University Press. https://doi.org/10.1017/CBO9780511810039
15. Kant, I. (1998). Critique of Pure Reason (P. Guyer & A. W. Wood, Ed.; 1. bs.). Cambridge University Press. https://doi.org/10.1017/CBO9780511804649
16. Lucas, J. R. (1961). Minds, Machines and Gödel. Philosophy, 36(137), 112-127. JSTOR
17. McLear, C. (2020). Kant: Philosophy Of Mind. In Internet Encyclopedia Of Philosophy. https://iep.utm.edu/kantmind/
18. Mienye, I. D., Jere, N., Obaido, G., Ogunruku, O. O., Esenogho, E., & Modisane, C. (2025). Large language models: An overview of foundational architectures, recent trends, and a new taxonomy. Discover Applied Sciences, 7(9), 1027.
19. Moncoucy, L., Dołęga, K., Tallon-Baudry, C., & Cleeremans, A. (2025). The value of consciousness: Experiences worth having. Philosophical Transactions of the Royal Society B: Biological Sciences, 380(1939), 20240303. https://doi. org/10.1098/rstb.2024.0303
20. Nagel, T. (1974). What Is It Like to Be a Bat? The Philosophical Review, 83(4), 435. https://doi.org/10.2307/2183914
21. Nagel, T. (2015). Zihin ve evren (Ö. Ç. Aksoy, Çev.). Jaguar Kitap.
22. Peykani, P., Ramezanlou, F., Tanasescu, C., & Ghanidel, S. (2025). Large language models: A structured taxonomy and review of challenges, limitations, solutions, and future directions. Applied Sciences, 15(14), 8103.
23. Piccinini, G. (2003). Alan Turing and the Mathematical Objection. Minds and Machines,13 (1), 23-48.
24. Searle, J. R. (1996). Akıllar, Beyinler ve Bilim (K. Bek, Çev.). Say Yayınları.
25. Taştan, Ü. (2025). Yapay Zekâyı Kant’la Düşünmek: Hesapkuramsal Karmaşıklık Ekseninde Makine Zekâsının Sınırları. Çizgi Kitabevi.
26. Turing, A. M. (1939). Systems of logic based on ordinals. Proceedings of the London Mathematical Society, Series 2, 45, 161-228.
27. Üçer, İ. H. (2018). Özdeşlikten Temsile: İbn Sînâ’ya Göre İnsani Nefste Bilen-Bilinen Özdeşliği Sorunu. Nazariyat İslam Felsefe ve Bilim Tarihi Araştırmaları Dergisi (Journal for the History of Islamic Philosophy and Sciences), 4(2), 1-54. https://doi.org/10.12658/Nazariyat.4.2.M0054
28. Wang, Y., Liao, Y., Liu, H., Liu, H., Wang, Y., & Wang, Y. (2024, August). Mm-sap: A comprehensive benchmark for assessing self-awareness of multimodal large language models in perception. In Proceedings of the 62nd Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers) (pp. 9192-9205). https://doi.org/10.18653/v1/2024.acl-long.498
29. Wooldridge, M. (2022). Bilinçli Makinelere Giden Yol: Yapay Zekânın Dünü, Bugünü, Yarını (Ö. Çelik, Çev.). Metis Yayınları.