The Role of AI-Generated Political Content in Disinformation and Manipulation: An Analy

Abstract

With the widespread adoption of artificial intelligence and the growing impact of social media, individuals have increasingly taken on the role of content creators. In this context, AI-generated political news and visuals spread rapidly on social media, often without any oversight. The absence of control mechanisms leads to the uncontrolled circulation of misleading content, contributing to a significant disinformation problem. This issue becomes even more pronounced during election periods when AI-generated fake news intensifies, shaping public perception and influencing decision-making processes. In the post-truth era, the manipulation and disinformation effects of AI-generated political content present serious challenges to information security and public awareness. This study explores the role of artificial intelligence in political content creation and examines how the spread of AI-generated fake news distorts facts and alters individual perceptions. Using descriptive content analysis, the findings reveal that AI-generated false news has become a powerful disinformation tool in elections, posing risks beyond individual misinformation by undermining social trust and democratic integrity. To counter these risks, more comprehensive and strategic approaches are necessary to regulate AI-driven content and mitigate its impact on political processes.

Keywords

• Artificial Intelligence
• Social Media
• Manipulation
• Disinformation
• Political Communication.

Üretken Yapay Zekâ Teknolojileriyle Oluşturulan Siyasal Dezenformasyon: 2024 Türkiye Yerel Seçimlerinde Sosyal Medya Analizi

Abstract

Üretken Yapay Zekânın kullanımının yaygınlaşması ve sosyal medyanın hayatımızdaki etkisinin artmasıyla birlikte bireyler, aynı zamanda içerik üreticisi haline gelmiştir. Bu içeriklerin denetim mekanizmalarının eksikliği nedeniyle doğrulukları teyit edilmeden yayılması, ciddi bir dezenformasyon sorunu yaratmaktadır. Siyasal seçim dönemlerinde artan yapay zekâ üretimi sahte haberler, bireylerin algılarını manipüle etmekte ve karar alma süreçlerini etkilemektedir. Bu çalışmada şu sorulara cevap aranmıştır: ‘‘2023 Türkiye genel ve 2024 Türkiye yerel seçimleri sürecinde, üretken yapay zekâ tarafından üretilen yanıltıcı içerikler en çok hangi dezenformasyon türlerine göre sınıflandırılmaktadır?’’ ‘‘Sosyal medya platformlarında dolaşıma sokulan üretken yapay zekâ üretimi siyasal içerikler hangi manipülasyon stratejilerini kullanmaktadır?’’ ‘‘Üretken yapay zekâ teknolojilerinin erişilebilirliğindeki artış, siyasal dezenformasyon içeriklerinin niteliğini ve yaygınlığını nasıl etkilemektedir?’’ Çalışmada, 01.01.2023-01.01.2024 tarihleri arasında teyit.org, ve doğrulukpayı.com platformlarında yer alan ve üretken yapay zekâ ile üretildiği teyit edilen dezenformasyon barındıran 29 adet yanlış bilgi içeren ve farklı sosyal medya platformlarında yer alan uydurma haberler betimsel içerik analiz yöntemi ile analiz edilmiş, analiz sonucunda ilk sırada manipülasyon yer almıştır.

Keywords

• Yapay Zekâ
• Sosyal Medya
• Manipülasyon
• Dezenformasyon
• Siyasal İletişim

References

1. Appel, M., & Prietzel, F. (2022). The detection of political deepfakes. Journal of Computer-Mediated Communication, 27(4), 1–3.
2. Arslan, Ş. (2022). Sosyal medya ve dezenformasyon tehdidinde gazetecilik. Aksaray İletişim Dergisi, 4(2), 107–134.
3. Asamoah, D. A., & Sharda, R. (2021). What should I believe? Exploring information validity on social network platforms. Journal of Business Research, 122, 567–581.
4. Avram, M., Micallef, N., Patil, S., & Menczer, F. (2020). Exposure to social engagement metrics increases vulnerability to misinformation. Harvard Kennedy School Misinformation Review, 1(5), 1–11.
5. Aydın, A. F. (2020). Post-truth dönemde sosyal medyada dezenformasyon: COVID-19 (Yeni Koronavirüs) pandemi süreci. Asya Studies, 4(12), 76–90.
6. Aydınalp, H. Ş. (2019). Sosyal medyada manipülasyon: PKK tarafından oluşturulan haberler (Yayımlanmamış yüksek lisans tezi). Marmara Üniversitesi Sosyal Bilimler Enstitüsü.
7. Bennett, W. L., & Livingston, S. (2020). The disinformation age: Politics, technology, and disruptive communication in the United States. Cambridge University Press.
8. Bhadani, S., Yamaya, S., Flammini, A., Menczer, F., Ciampaglia, G. L., & Nyhan, B. (2022). Political audience diversity and news reliability in algorithmic ranking. Nature Human Behaviour, 6(4), 495–505.

9. Bontridder, N., & Poullet, Y. (2021). The role of artificial intelligence in disinformation. Data & Policy, 3, e32. https://doi.org/10.1017/dap.2021.20
10. DiFranzo, D., & Gloria-Garcia, K. (2017). Filter bubbles and fake news. XRDS: Crossroads, The ACM Magazine for Students, 23(3), 32–35.
11. Dourado, T. (2023). Who posts fake news? Authentic and inauthentic spreaders of fabricated news on Facebook and Twitter. Journalism Practice, 17(10), 1–20.
12. Duru, M. E. (2024). Yapay zekâ destekli siyasal iletişim faaliyetlerinde olanaklar ve sınırlılıklar üzerine bir değerlendirme. In Y. Çelik, S. S. Güneş, & A. Yalman (Eds.), 5. Uluslararası Medya Çalışmaları Sempozyumu Bildiri Kitabı (pp. 15–20). Akdeniz Üniversitesi. https://webis.akdeniz.edu.tr/uploads/1235/content/5.%20Uluslararas%C4%B1%20Medya%20%C3%87al%C4%B1%C5%9Fmalar%C4%B1%20Sempozyumu%20Bildiri%20%C3%96zeti%20Kitab%C4%B1.pdf#page=34
13. Elitaş, T. (2022). Dijital manipülasyon “deepfake” teknolojisi ve olmayanın inandırıcılığı. Hatay Mustafa Kemal Üniversitesi Sosyal Bilimler Enstitüsü Dergisi, 113–128.
14. Eroğlu, Ş., & Çakmak, T. (2020). Post-truth dönemini anlamak: Hacettepe Üniversitesi Bilgi ve Belge Yönetimi Bölümü öğrencilerinin yeni medya araçları kapsamında bilgi bozuklukları ve doğrulama algılarının değerlendirilmesi. Pamukkale Üniversitesi Sosyal Bilimler Enstitüsü Dergisi(39), 307–325.
15. Fallis, D. (2009). What is disinformation? Library Trends, 63(3), 401–426.
16. Foça, M. A. (2019, March 1). Sözlük: Yanlış bilginin en yaygın yedi türü. Teyit.org. https://teyit.org/ekipten/sozluk-yanlis-bilginin-en-yaygin-7-turu
17. Frau-Meigs, D. (2021). Addressing the risks of harms caused by disinformation. In L. Corredoira, I. B. Mallén, & R. C. Presuel (Eds.), Handbook of communication rights, law, and ethics (pp. 135–146). John Wiley & Sons.
18. Gillespie, T. (2014). The relevance of algorithms. In T. Gillespie, P. Boczkowski, & K. Foot (Eds.), Media technologies: Essays on communication, materiality and society (pp. 167–193). The MIT Press.
19. Harari, Y. N. (2016). Homo Deus: Yarının kısa bir tarihi (P. N. Taneli, Trans.). Kolektif Kitap. https://archive.org/details/YuvalNoahHarariHomoDeusYarnnnKSaBirTarihi/page/n3/mode/2up
20. Helmus, T. C. (2022). Artificial intelligence, deepfakes, and disinformation: A primer. RAND Corporation. https://www.rand.org/content/dam/rand/pubs/perspectives/PEA1000/PEA1043-1/RAND_PEA1043-1.pdf
21. Ilgın, H. Ö. (2021). Sosyal medyada dezenformasyon ve halkla ilişkiler ilişkisi. İletişim Çalışmaları Dergisi, 7(2), 303–322.
22. Jack, C. (2017). Lexicon of lies: Terms for problematic information. Data & Society Research Institute. https://datasociety.net/pubs/oh/DataAndSociety_LexiconofLies.pdf
23. Karataş, Z. (2017). Sosyal bilim araştırmalarında paradigma değişimi. Türkiye Sosyal Hizmet Araştırmaları Dergisi, 1(1), 68–86.
24. Kavaklı, N. (2019). Yalan haberle mücadele ve internet teyit/doğrulama platformları. Erciyes İletişim Dergisi, 6(1), 663–682.
25. Kesgin, Y., & Keskin, E. K. (2022). Yanlış bilgi ekosisteminde cinsiyete dayalı yükselişler: Cinsiyetçi dezenformasyon üzerine. In Y. Kesgin & E. K. Keskin (Eds.), Yeni medyada yanlış bilgi: Komplo teorileri ve bilimin inkârı (pp. 21–26).
26. Kınay, K., & Atalay, G. E. (2021). Sosyal medyada trol hesaplar ve algı yönetimi: COVID-19 sürecinde Twitter’da aşı karşıtlığı. Medya ve Kültürel Çalışmalar Dergisi, 3(2), 56–63.
27. Kiraz, E. (2019). Sosyal medya ve algı yönetimi: İngiltere'nin Brexit sürecinde sosyal medya dezenformasyonu. Paradoks Ekonomi, Sosyoloji ve Politika Dergisi, 15(1), 1–18.
28. Kriplean, T., Bonnar, C., Borning, A., Kinney, B., & Gill, B. (2014). Integrating on-demand fact-checking with public dialogue. In Proceedings of the 17th ACM Conference on Computer-Supported Cooperative Work & Social Computing (pp. 15–19). ACM Press. https://homes.cs.washington.edu/~borning/papers/kriplean-cscw2014.pdf
29. Levendeli, Ş. T. (2024). Dijital çağda yapay zekâ tabanlı ses taklidi: Algoritmik vantrilokizm. Yeni Medya Elektronik Dergisi, 8(2), 355–373.
30. Marwick, A., & Lewis, R. (2017). Media manipulation and disinformation online. Data & Society Research Institute. https://datasociety.net/pubs/oh/DataAndSociety_CaseStudies-MediaManipulationAndDisinformationOnline.pdf
31. McPherson, M., Smith-Lovin, L., & Cook, J. M. (2001). Birds of a feather: Homophily in social networks. Annual Review of Sociology, 27(1), 415–444.
32. Monsees, L. (2023). Information disorder, fake news and the future of democracy. Globalizations, 20(1), 153–168.
33. Open Society Institute. (2023). The Media Literacy Index Report 2023. https://medialiteracynow.org/wp-content/uploads/2024/02/MediaLiteracyNowPolicyReport2023_publishedFeb2024b.pdf
34. Özer, N. P. (2019). Gazete haberlerinde manipülasyon: 28 Şubat örneği. Medeniyet ve Toplum Dergisi (METDER), 3(2), 213–236.
35. Pariser, E. (2011). The filter bubble: What the internet is hiding from you. Penguin Press. https://archive.org/details/filterbubblewhat0000pari_z3l4
36. Richterich, A. (2018). The big data agenda: Data ethics and critical data studies. University of Westminster Press.
37. Shoaib, M. R., Wang, Z., Ahvanooey, M. T., & Zhao, J. (2023). Deepfakes, misinformation, and disinformation in the era of frontier AI, generative AI, and large AI models. International Conference on Computer and Applications (ICCA), 1–7.
38. Summak, M. E. (2024). Halkla ilişkilerde yapay zekâ kullanımı ve geleceğin iletişim stratejilerinin şekillendirilmesi. Akşehir Meslek Yüksekokulu Sosyal Bilimler Dergisi(18), 70–81. https://dergipark.org.tr/tr/download/article-file/4344113
39. Tomassi, A., Falegnami, A., & Romano, E. (2024). Mapping automatic social media information disorder: The role of bots and AI in spreading misleading information in society. PLOS ONE, 19(5). https://pmc.ncbi.nlm.nih.gov/articles/PMC11142451/
40. Venturini, T. (2019). From fake to junk news, the data politics of online virality. In V. I. Bigo, E. Isin, & E. Ruppert (Eds.), Data politics: Worlds, subjects (pp. 123–144). Routledge.
41. Wardle, C., & Derakhşan, H. (2017). Information disorder: Toward an interdisciplinary framework for research and policy making. Council of Europe. https://edoc.coe.int/en/media/7495-information-disorder-toward-an-interdisciplinary-framework-for-research-and-policy-making.html
42. Yıldırım, A., & Şimşek, H. (2000). Sosyal bilimlerde nitel araştırma yöntemleri. Ankara: Seçkin Yayıncılık.
43. Zweig, K. (2019, November 26). İyi algoritma, kötü algoritma. (M. Orth, Röportaj Yapan). https://www.deutschland.de/tr/topic/ekonomi/dijitallesme-algoritmalar-hayatimizi-kolaylastiriyor-mu-yoksa-birer-tehlike-mi