Reproduction of Sexist Discourse in Large Language Models: A Feminist Reading

Abstract

Feminist philosophers have demonstrated that the patterns of affect, cognition, and behavior assigned to genders in scientific, philosophical, and social traditions are not innate or immutable, contrary to conventional claims. According to these thinkers, such patterns are constructed through linguistic, discursive, and cultural practices. In the sexist social order that has been constructed, eliminating the gender inequality that women face requires not only structural changes but also radical transformations in the systems of meaning and representation that take men as the norm. Artificial intelligence tools, which are becoming increasingly effective in terms of information production and circulation today, are of particular importance in terms of the reproduction of systems of meaning and representation. Large language models, which generate their responses through existing corpora, can reproduce the social prejudices ingrained in that information mass. Research in different languages has shown that these models can reproduce sexist biases regarding patterns of emotion, thought, and behavior, and that they need to be made more sensitive to sex equality. In this study, we attempted to evaluate the Turkish responses of only two major language models, ChatGPT-4.0 and Claude, to fifty-two questions posed within the framework of different categories that are common carriers of sexism, from a critical perspective developed by feminist philosophers.

Keywords

• Feminist Philosophy
• Sexism
• Language/Discourse
• Equality
• Social/Cultural Construction
• Representation
• Artificial Intelligence.

Supporting Institution

Bursa Uludag University

Project Number

SGA-2025-2121

Ethical Statement

There is no ethical violation.

Büyük Dil Modellerinde Cinsiyetçi Söylemin Yeniden Üretimi: Feminist Bir Okuma

Abstract

Feminist filozoflar bilimsel, felsefi ve toplumsal geleneklerde cinsiyetlere atanan duygulanım, düşünme ve davranış kalıplarının iddia edilenin aksine doğal ya da değişmez olmadığını ortaya koymuşlardır. Bu filozoflara göre söz konusu kalıplar dilsel, söylemsel ve kültürel pratikler aracılığıyla üretilmektedir. İnşa edilen cinsiyetçi toplumsal düzen içinde kadının maruz kaldığı cinsiyet eşitsizliğini ortadan kaldırmak için yapısal değişimlerin yanı sıra erkeği norm olarak alan anlam ve temsil düzenlerinde köklü dönüşümlerin gerçekleşmesi gerekir. Günümüzde bilgi üretimi ve dolaşımı açısından giderek daha etkili hale gelen yapay zekâ araçları anlam ve temsil düzenlerinin yeniden üretimi bakımından özel bir önem taşımaktadır. Yanıtlarını mevcut bilgi yığınını kullanarak üreten büyük dil modelleri bu bilgi yığını içinde yer alan toplumsal önyargıları yanıtlarına taşıyabilmektedir. Farklı dillerde yapılan araştırmalar, bu modellerin duygulanım, düşünme ve davranış kalıplarına ilişkin cinsiyetçi yargıları yeniden üretebildiğini göstermiş ve bunların cinsiyet eşitliği konusunda daha duyarlı hale getirilmesi gerektiğini tespit etmiştir. Bu çalışmada yalnızca ChatGPT-4.0 ve Claude gibi iki büyük dil modelinin, cinsiyetçiliğin yaygın taşıyıcısı olan farklı kategoriler çerçevesinde yönelttiğimiz elli iki soruya verdiği Türkçe yanıtları, feminist filozofların geliştirdiği eleştirel perspektif doğrultusunda değerlendirmeye çalıştık.

Keywords

• Cinsiyetçilik
• Feminist Felsefe
• Dil/Söylem
• Eşitlik
• Toplumsal/Kültürel İnşa
• Temsil
• Yapay Zekâ.

Supporting Institution

Bursa Uludağ Üniversitesi

Project Number

SGA-2025-2121

Ethical Statement

Etik ihlal söz konusu değildir.

References

1. Agrawal, H. (2024). Gender Inequality in Artificial Intelligence: Feminist Political Economic Approach. IJCIRAS 7 (3), 1-8.
2. Anderson, P. S. (1977). A Feminist Philosophy of Religion: The Rationality and Myths of Religious Belief. Oxford: Blackwell.
3. Atılgan, E. Ü. (2024). Haksız Tahrik, İstanbul: İletişim Yayınları.
4. Aydemir, D. K., ve Genç H. N. (2022). Siberfeminizm: Cinsiyetlendirilmiş Teknolojinin Ötesi. Kesit Akademi Dergisi 8 (32), 291-310.
5. Bağcı, İ. (2023). Feminist Bir İmkân Olarak Kristeva’nın Semiyotik Khôrası. Feminist Felsefe (ed. E. Yenisoy Şahin). Bursa: Sentez Yayıncılık.
6. Belek Erşen, U. (2018). Yeni Bir Dil, Yeni Bir Cinsiyet Düzeni. Sosyoloji Araştırmaları Dergisi, 21 (1), 1-41.
7. Braidotti, R. (2017). Rosi Braidotti’nin İngilizce Baskıya Önsözü (çev: Bilge Tanrısever). Platon’a Rağmen Antik Felsefenin Feminist Bir Yeniden Yazımı. İstanbul: Otonom Yayıncılık.
8. Buolamwini, J. ve Timnit, G. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research, No: 81, 1-15.

9. Butler, J. (2008a). Olumsal Temeller: Feminizm ve “Postmodernizm” Sorusu (çev. Feride Evren Sezer.). Çatışan Feminizmler (yaz. ve haz: S. Benhabib, J. Butler, D. Cornell, N. Fraser). İstanbul: Metis Yayınları. 44-67.
10. Butler, J. (2008b). Dikkatli Bir Okuma İçin (çev. Feride Evren Sezer.). Çatışan Feminizmler (yaz. ve haz: S. Benhabib, J. Butler, D. Cornell, N. Fraser). İstanbul: Metis Yayınları. 138-156.
11. Butler, J. (2014a). Cinsiyet Belası: Feminizm ve Kimliğin Altüst Edilmesi (çev. B. Ertür). İstanbul: Metis Yayıncılık.
12. Butler, J. (2014b). Bela Bedenler (çev. C. Çakırlar, Zeynep Talay). İstanbul: Pinhan Yayıncılık.
13. MacKinnon, C. A. (2020). Feminist Bir Devlet Kuramına Doğru (çev. T. Yöney ve S. Yücesoy). İstanbul: Metis Yayıncılık.
14. Cavarero, A. (2017). Platon’a Rağmen Antik Felsefenin Feminist Bir Yeniden Yazımı (çev. B. Tanrısever). İstanbul: Otonom Yayıncılık.
15. de Beauvoir, S. (2021a). İkinci Cinsiyet. Olgular ve Efsaneler (çev. G. A. Savran). İstanbul: Koç Üniversitesi Yayınları.
16. de Beauvoir, S. (2021b). İkinci Cinsiyet. Yaşanmış Deneyim (çev. G. A. Savran). İstanbul: Koç Üniversitesi Yayınları.
17. Direk, Zeynep. (2021). “Önsöz”. İkinci Cinsiyet. Olgular ve Efsaneler (çev. G. A. Savran). İstanbul: Koç Üniversitesi Yayınları. 11-24.
18. Donovan, J. (2014). Feminist Teori (çev. A. Bora, M. A. Gevrek ve F. Sayılan). İstanbul: İletişim Yayınları.
19. Federici, S. (2012). Caliban ve Cadı: Kadınlar, Beden ve İlksel Birikim (çev. Ö. Karakaş). İstanbul: Otonom Yayıncılık.
20. Hankinson Nelson, L. (2025). Biyoloji ve Feminizm: Felsefi Bir Giriş (çev. P. Üzeltüzenci). Çanakkale: Akademim Yayınları.
21. Hartmann, H. (2016). Marksizmle Feminizmin Mutsuz Evliliği (çev. G. Aygen), Kadının Görünmeyen Emeği (haz. G. Acar-Savran ve N.T. Demiryontan). İstanbul: Yordam Kitap. 157-206.
22. Hull, C. (2022). Cinsiyetin Ontolojisi: Eleştirel ve Gerçekçi Bir Soruşturma (çev. G. Akçasoy). İstanbul: İletişim Yayınları.
23. Hunt Botting, E. (2016). Wollstonecraft, Mill, and Women’s Human Rights. Yale University Press.
24. Irigaray, L. (2006). Ben Sen Biz: Farklılık Kültürüne Doğru (çev. S. Büyükdüvenci ve N. Tutal). Ankara: İmge Yayınevi.
25. Irıgaray, L. (2023). Cinsel Fark Etiği (çev. Ö. Karakaş ve S. Özkaya). Ankara: Fol Yayıncılık.
26. Kristeva, J. (2014). Korkunun Güçleri: İğrençlik Üzerine Deneme (çev. N. Tutal). İstanbul: Ayrıntı Yayınları.
27. Kristeva, J. (2018). Simone de Beauvoir Aramızda (çev. Ö. Berksoy). İstanbul: Sel Yayıncılık.
28. Larson, E. J. (2022). Yapay Zekâ Miti (çev. K. Y. Us). İstanbul: Fol Kitap.
29. le Doeuff, M. (2002). The Philosophical Imaginary (çev. C. Gordon). London & New York: Continuum.
30. -----, (2010). Panel Discussion with Michèle Le Doeuff, Paragraph, Vol. 33, No. 1, ss. 102-124.
31. Lloyd, G. (2021). Erkek Akıl (çev. M. Özcan). İstanbul: Ayrıntı Yayınları.
32. Mill, J. S. (2017). Kadınların Köleleştirilmesi (çev. A. Özcan). İstanbul: Bilge Kültür Sanat Yayınları.
33. Millet, K. (1987). Cinsel Politika (çev. S. Selvi). İstanbul: Payel Yayınevi.
34. Oketunji, A. F., Anas, M. ve Saina D. (2023), Large Language Model (LLM) Bias Index-LLMBI. Erişim: https://arxiv.org/abs/2312.14769.
35. Rippon, G. (2023). Cinsiyetlendirilmiş Beyin: Kadın Beyni Efsanesini Paramparça Eden Yeni Sinirbilim (çev. M. C. Mutlu). İstanbul: Ayrıntı Yayınları.
36. Salman, G. (2025). Fark ve Anlam: Austin, Derrida, Butler. Anlam ve Dil (Ed. A. Aydın). İstanbul: VakıfBank Kültür Yayınları. 147-182.
37. Soundararajan, S. ve Delany, S. J. (2024). Investigating Gender Bias in Large Language Models Through Text Generation. Erişim: https://aclanthology.org/2024.icnlsp-1.42/.
38. Tegmark, M. (2018). Yaşam 3.0: Yapay Zekâ Çağında İnsan Olmak (çev. E. C. Göksoy). İstanbul: Pegasus Yayınları.
39. Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N. and Polosukhin, I. (2017) Attention Is All You Need. Proceedings of the 31st International Conference on Neural Information Processing Systems (NeurIPS 2017), Long Beach, California, 4-9 December 2017, 5998-6008. https://papers.nips.cc/paper_files/paper/2017/hash/3f5ee243547dee91fbd053c1c4a845aa-Abstract.html
40. Yenisoy Şahin, E. (2025). Kadın, Tanrı ve Bilgi: Feminist Teolojinin Ontolojik-Epistemolojik Zemini. Politik Teolojiler Mümkün mü? (Ed. F. Günsoy ve M. E. Kardeş). Bursa: Sentez Yayıncılık.
41. Wollstonecraft, M. (2012). Kadın Haklarının Gerekçelendirilmesi (çev. D. Hakyemez). İstanbul: Türkiye İş Bankası Kültür Yayınları.