Generative Artificial Intelligence Performance in Sociology of Religion Research: A Comparative Analysis of ChatGPT and Google Gemini
Öz
Artificial intelligence models increasingly influence knowledge production across disciplines, including the social sciences, by enabling rapid access to diverse data sources and synthesized information. Owing to this capacity, researchers and students frequently consult contemporary AI systems for preliminary orientation and conceptual clarification. Within the social sciences, such models contribute not only to data retrieval but also to the examination of sociological theories and concepts, as well as to the modeling of complex social structures. Despite extensive debates on the validity, accuracy, and reliability of artificial intelligence applications in technical fields, systematic evaluations of these models within theology and sociology remain comparatively limited. Against this background, the present study focuses on the field of sociology of religion, a discipline situated at the intersection of sociological inquiry and religious studies. The primary aim is to analyze the responses generated by artificial intelligence models and to assess their qualitative characteristics. Specifically, the study undertakes a comparative evaluation of two widely used systems—Chat Generative Pretrained Transformer-5.2 (ChatGPT) and Gemini 1.5 Flash (Google Gemini) —with regard to their answers to questions related to sociology of religion. The selected questions were designed to encompass different cognitive demands, including descriptive knowledge, comparison, and analytical reasoning. The responses produced by both models were systematically examined using predefined criteria: clarity and specificity, relevance, reliance on supporting sources, internal consistency, adequacy, coherence, factual accuracy, and data volume. The findings indicate that, from the perspective of sociology of religion, the outputs of both models generally remain at an introductory level. Nevertheless, notable differences were identified between the systems. Google Gemini tends to offer more extensive explanations, particularly regarding historical contextualization, thematic scope, and conceptual variety. By contrast, ChatGPT demonstrates a comparatively stronger capacity for structuring arguments, preserving conceptual coherence, and producing balanced comparative analyses. Overall, the results suggest that while both models provide useful entry-level academic support, their distinct strengths require critical and methodologically informed use within scholarly research contexts. On the other hand, it was observed that the information provided by both artificial intelligence models generally did not go beyond an introductory level and remained limited in addressing topics that require interdisciplinary depth. In particular, in areas where the sociology of religion intersects with Islamic thought and classical sociological theories, methodological debates and theoretical foundations were not sufficiently developed. This finding suggests that these artificial intelligence tools should not be regarded as direct producers of academic knowledge, but rather as auxiliary instruments that support preliminary exploration, framework construction, and comparative thinking in scholarly research. Accordingly, future studies should focus on methodological inquiries into how artificial intelligence models can be employed in a more critical, source-based, and in-depth manner within the fields of theology and the social sciences.
Anahtar Kelimeler
Din Sosyolojisi Araştırmalarında Üretken Yapay Zekâ Performansı: Chatgpt ve Google Gemini Üzerine Karşılaştırmalı Bir Analiz
Öz
Yapay zekâ modelleri, birçok alanda olduğu gibi sosyal bilimler alanında da verilere ulaşmayı kolaylaştırmakta ve bilgiye erişim hususunda önemli katkılar sunmaktadır. Bu potansiyel nedeniyle bireyler, farklı konularda bilgi edinmek amacıyla mevcut yapay zekâ modellerine sıklıkla yönelmektedir. Bu çerçevede yapay zekâ modelleri, sosyal bilimler alanında çeşitli verilere erişim sağlaması bakımından katkı sunma niteliğine sahiptir. Öte yandan yapay zekâ modelleri, sosyolojik teorilerin ve kavramların analizinde de kullanılmakta; toplumsal yapıların modellenmesi ve simülasyonunda işlevsel araçlar olarak değerlendirilmektedir. Birçok teknik alanda yapay zekâ modellerinin geçerliliği, doğruluğu ve güvenirliği üzerine çalışmalar bulunmakla birlikte, ilahiyat ve sosyoloji gibi sosyal bilimler alanlarında bilgi elde etme amacıyla kullanılan bu modellerin geçerliliği, doğruluğu ve güvenirliği üzerine yapılan çalışmalar görece sınırlıdır. İlahiyat ve sosyoloji gibi hassas bilgi alanlarında araştırmacıların tutarsız, eksik ya da hatalı verilerle karşılaşması, bilimsel araştırmaların işleyişini olumsuz yönde etkileyebilmektedir. Bu bağlamda çalışma hem dinî ilimler hem de sosyolojiyle kesişen bir disiplin olan din sosyolojisi kapsamında, yapay zekâ modellerinin sunduğu cevapları incelemeyi ve bu cevapların niteliğini tartışmayı amaçlamaktadır. Dolayısıyla araştırmanın temel hedefi, iki farklı yapay zekâ modeli olan Chat Generative Pretrained Transformer-5.2 (ChatGPT) ve Gemini 1.5 Flash (Google Gemini)’in ücretsiz versiyonunun din sosyolojisi alanına yönelik sorulara verdikleri cevapların performanslarını karşılaştırmalı olarak değerlendirmektir. Belirlenen sorular; bilgi düzeyi, karşılaştırma ve analiz gibi farklı ölçütler çerçevesinde incelenmiş; yapay zekâ modellerinin performansları, potansiyelleri, tutarlılıkları ve sınırlılıkları değerlendirilmiştir. Her iki yapay zekâ modelinden elde edilen cevaplar, din sosyolojisi alanındaki doktora derecesine sahip üç akademisyen tarafından değerlendirilerek netlik ve özgüllük, ilgi düzeyi, kaynaklara dayanma, tutarlılık, yeterlilik, bütünlük, doğruluk ve veri hacmi ölçütleri kapsamında analiz edilmiş ve 1-10 arası puanlamaya tabi tutulmuştur. Din sosyolojisi alanı açısından değerlendirildiğinde, her iki yapay zekâ modelinin sunduğu cevapların birtakım veri setleri aracılığıyla, sınırlı düzeyde üretildiği görülmüştür. Bununla birlikte Google Gemini’nin özellikle tarihsel bağlamlandırma, konu genişliği ve kavramsal çeşitlilik açısından daha hacimli ve ayrıntılı açıklamalar sunduğu; ChatGPT’nin ise sistematik yapı kurma, kavramsal tutarlılık ve karşılaştırmalı analiz üretme konularında daha dengeli bir performans sergilediği gözlemlenmiştir. Öte yandan her iki yapay zekâ modelinin de sunduğu bilgilerin disiplinler arası derinlik gerektiren konularda sınırlı açıklamalarla yetindiği anlaşılmıştır. Özellikle din sosyolojisi ve klasik sosyoloji teorilerinin kesiştiği alanlarda, metodolojik tartışmaların ve kuramsal arka planın yeterince geliştirilemediği dikkat çekmektedir. Bu durum, söz konusu yapay zekâ araçlarının akademik araştırmalarda doğrudan bilgi üreticisi olarak değil, daha çok ön hazırlık, çerçeve oluşturma ve karşılaştırmalı düşünmeyi destekleyen yardımcı araçlar olarak değerlendirilmesinin daha isabetli olacağını göstermektedir. Dolayısıyla ilerleyen çalışmalarda, yapay zekâ modellerinin ilahiyat ve sosyal bilimler alanlarında nasıl daha eleştirel, kaynak temelli ve derinlikli biçimde kullanılabileceğine odaklanan metodolojik araştırmalara ihtiyaç olduğu söylenebilir.
Anahtar Kelimeler