The Phenomenon of Synthetic Media in the Post-Truth Era: Perception of Reality and Ethical Dilemmas

Abstract

The expression “post-truth” which denotes the prevailing spirit of the times, has infiltrated nearly every aspect of life with the transformation in communication technologies. In today’s society of spectacle, where personal truths, emotions, and beliefs have replaced the modern understanding of truth based on objective data and rationality, and where reality and falsity have become interchangeable, with the dominance of images, the media has both served as a mirror for this period and nourished this system with all its tools. This study addresses the epistemological transformation of the concept of truth throughout history and examines synthetic media content, a product of artificial intelligence technology, and its ethical dimension in the new media age. The changes in the concept of truth from Antiquity to the present, the intellectual foundations of postmodernism and the post-truth era, and the effect of new media on the perception of truth are discussed. In this study, while examining artificial intelligence-based synthetic media content and its potential risk factors, this new form of media is evaluated from various perspectives such as ethics, responsibility, digital identity rights, and data ethics, and its relationship with the post-truth era is explored. Synthetic media content produced with artificial intelligence technology, by reinforcing the characteristic features of the post-truth era, blurs the distinction between reality and falsity, undermines individuals’ trust in visual and auditory experiences, and deepens the risks of disinformation and the issues of access to and trust in information on a societal level. The widespread use of synthetic media content brings with it the issues of personal data protection, digital identity rights, and ethical concerns. Measures to ensure the security of individuals’ digital identities and prevent unauthorised use of their data are critical in this context. In particular, the development of media literacy programs aimed at increasing digital literacy is seen as an effective strategy against the ethical and security risks posed by synthetic media.

Keywords

• Post-truth
• Synthetic Media
• Artificial Intelligence
• Ethics
• Data Ethics
• Digital Identity

Hakikat Sonrası Çağda Sentetik Medya Olgusu: Gerçeklik Algısı ve Etik Sorunsalı

Abstract

Zamanın hâkim ruhunu ifade eden “hakikat sonrası”, iletişim teknolojilerindeki değişimle hayatın hemen her alanına nüfuz etmiştir. Nesnel verilere ve rasyonelliğe dayalı modern hakikat anlayışının yerini kişisel hakikatler, duygular ve inançların aldığı, gerçek ile sahte birbirinin yerine geçtiği, görüntünün baskın hale geldiği günümüz gösteri toplumunda; medya, bu dönemi anlamak için hem bir ayna işlevi görmüş hem de tüm araçlarıyla bu sistemi beslemiştir. Bu çalışma, hakikat kavramının tarihsel süreçteki epistemolojik dönüşümünü ele alarak, yeni medya çağında yapay zekâ teknolojisinin bir ürünü olan sentetik medya içeriklerini ve etik boyutunu incelemektedir. Hakikat kavramının Antik Çağ’dan günümüze değin geçirdiği değişim, postmodernizm ve hakikat sonrası dönemin düşünsel temelleri ile yeni medyanın hakikat algısına etkisi tartışılmaktadır. Çalışmada, yapay zekâ tabanlı sentetik medya içerikleri ve potansiyel risk unsurları incelenirken söz konusu yeni medya türü; etik, sorumluluk, dijital kimlik hakkı ve veri etiği gibi farklı perspektiflerden değerlendirilmekte ve hakikat sonrası çağla ilişkisi irdelenmektedir. Yapay zekâ teknolojileriyle üretilen sentetik medya içerikleri, hakikat sonrası çağın karakteristik özelliklerini pekiştirerek; gerçek ve sahte arasındaki ayrımı belirsizleştirmekte, bireylerin görsel-işitsel deneyime olan güvenini sarsmakta ve dezenformasyon riskini ve toplumsal düzeyde bilgiye erişim ve güven sorununu derinleştirmektedir. Sentetik medya içeriklerinin yaygınlaşması, kişisel verilerin korunması, dijital kimlik hakları ve etik sorunları beraberinde getirmektedir. Bireylerin dijital kimliklerinin güvenliği ve verilerinin izinsiz kullanımına karşı alınacak önlemler, bu bağlamda önemli bir gereklilik arz etmektedir. Özellikle, dijital okuryazarlık seviyesini yükseltmeye yönelik medya okuryazarlığı programlarının geliştirilmesi, sentetik medyanın yol açtığı etik ve güvenlik risklerine karşı etkili bir strateji olarak görülmektedir.

Keywords

• Hakikat Sonrası
• Sentetik Medya
• Yapay Zekâ
• Etik
• Veri Etiği
• Dijital Kimlik

References

1. Alemdar, K., & Erdoğan, İ. (2005). Öteki Kuram: Kitle İletişim Kuram ve Araştırmalarının Tarihsel ve Eleştirel Bir Değerlendirmesi. Erk Yayınları. google scholar
2. Alpay, Y. (2017). Yalanın Siyaseti. Destek Yayınları. google scholar
3. Arendt, H. (2012). Geçmişle Gelecek Arasında (B. S. Şener, Çev.). İLetişim YaYınLarı. google scholar
4. AtaLay, G. E. (2018). DijitaL Çağda Marshall McLuhan'ı Yeniden Düşünmek: Bir Uzantı ve Ampütasyon Olarak Yeni Medya Teknolojileri. Sosyal Araştırmalar ve Davranış Bilimleri Dergisi, 4(6), 27-48. google scholar
5. Baek, S. (2020). Free Speech In The Digital Age: Deepfakes And The Marketplace Of Ideas [YaYımLanmamış Lisans tezi]. UniversitY of PennsYLvania. google scholar
6. BaudriLLard, J. (2010). Sessiz Yığınların Gölgesinde Toplumsalın Sonu (O. Adanır, Çev.). Doğu Batı YaYınLarı. google scholar
7. BaYri, D. (2011). Gözün EgemenLiği Tarihin Sonu Mu? Özne Dergisi, Baudrillard Sayısı, 14. Kitap. google scholar
8. BaYtimur, T., & ÇaLışkan, S. (2019). Post-Truth Çağında GerçekLere Sadık KaLabiLmek: HaLkLa İLişkiLer İçin Bir Fırsat OLarak MedYa ve BiLgi OkurYazarLığı. Kurgu, Prof. Dr. Alâeddin Asna Anısına Yeni Zamanlar ve Halkla İlişkiler Sempozyumu Özel Sayısı, 170-180. google scholar

9. Binark, M., & BaYraktutan, G. (2013). Ayın Karanlık Yüzü: Yeni Medya ve Etik. KaLkedon YaYıncıLık. google scholar
10. BuLut, Ö. (2015). Heidegger ve Badiou'da Hakikat [YaYımLanmamış Yüksek Lisans tezi]. Hacettepe Üniversitesi SosYaL BiLimLer Enstitüsü. google scholar
11. ÇeLik, F. (2021). Sibernetik Mekânda "Hakikatimsi" Kavuşma: SanaL KızıYLa BuLuşan GüneY KoreLi Anne Örneği. Akdeniz Üniversitesi İletişim Fakültesi Dergisi, 35, 126-140. google scholar
12. Cevizci, A. (2009). Felsefe Tarihi: Thales'ten Baudrillard'a. Say Yayınları. google scholar
13. Dağ, A. (2011). Ölümcül Şiddet Baudrillard'ın Düşüncesi. Külliyat Yayınları. google scholar
14. Damasio, A. R. (1999). Descartes'ın Yanılgısı: Duygu, Akıl ve İnsan Beyni (B. AtLamaz, Çev.). VarLık YaYınLarı. google scholar
15. De Ruiter, A. (2021). The distinct wrong of deepfakes. Phllos. Technol., 34, 1311-1332. https://doi.org/l0.1007/s13347-021-00459-2 google scholar
16. EagLeton, T. (2011). Postmodernizm Yanılsamaları (M. Küçük, Çev.). Ayrıntı YayınLarı. google scholar
17. Ege, G. B. (2017). Kurgu Çağında GerçekLiğin ManipüLasYonu, PopüLer KüLtür ve Photoshop. Sosyolojl Derglsl, 36, 117-129. google scholar
18. Eshraghian, J. K. (2020). Human ownership of artificiaL creativitY. Nat. Mach. Intell., 2, 157-160. https://doi.org/10.1038/s42256-020-0161-x google scholar
19. Fazio, L. K., Brashier, N. M., PaYne, B. K., & Marsh, E. J. (2015). KnowLedge does not protect against iLLusorY truth. J. Exp. Psychol. Gen., 144, 993-1002. https://doi.org/10.1037/xge0000098 google scholar
20. FuLLer, S. (2018). Post-Truth: Knowledge As A Power Game. Anthem Press. google scholar
21. GiLson, E. (2003). Ortaçağ Felsefeslnln Ruhu (Ş. ÖçaL, Çev.). AçıLım Kitap. google scholar
22. GoeL, S., Anderson, A., Hofman, J., & Watts, D. J. (2015). The structuraL viraLitY of onLine diffusion. Management Sclence, 62(1), 180-196. https://doi.org/10.1287/mnsc.2015.2158 google scholar
23. Gregor, S. (2020). DeepfakeLer ve geLişmekte oLan manipüLasYon teknoLojiLeri hakkında nasıL düşünmeLi? In C. SiLverman (Ed.), Dezen-formasyon ve medya manlpülasyonu üzerlne doğrulama el kltabı (ss. 104-111). European Journallsm Center-Teylt.org. google scholar
24. HançerLioğLu, O. (1997). Felsefe Anslklopedlsl: Kavramlar ve Akımlar. Remzi Kitabevi. google scholar
25. HarveY, D. (1997). Postmodernllğln Durumları (S. Savran, Çev.). Metis YaYınLarı. google scholar
26. Hasan, H. R., & SaLah, H. (2019). Combating deepfake videos using bLockchain and smart contracts. IEEE Access, 7, 41596-41606. https:// doi.org/10.1109/ACCESS.2019.2905689 google scholar
27. Jaiman, A. (2020). Debating the ethics of deepfakes. Observer Research Foundatlon and Global Pollcy Journal, 75-80. google scholar
28. Kakutani, M. (2018). Haklkatln Ölümü: Trump Çağında Yalancılık Sanatı (C. Mizrahi, Çev.). Doğan Kitap. google scholar
29. Kamer, V. (2009). Yapay Zekâ ve Monoton Olmayan Mantık [YaYımLanmamış Yüksek Lisans tezi]. İstanbuL Üniversitesi SosYaL BiLimLer Enstitüsü. google scholar
30. Kapır, B. (2021). YapaY zekâ eksenLi geLişen aLgoritmik topLum. In F. Zengin & B. Kapır (Ed.), Yapay zeka ve medya (ss. 59-102). Doruk YaYınLarı. google scholar
31. KaYihan, B., Narin, B., Fırat, D., & Fırat, F. (2021). ALgoritmaLar, YapaY Zekâ ve Makine Öğrenimi Ekseninde GazeteciLik Etiği: ULusLararası Akademik DergiLere YöneLik Bir İnceLeme. TRT Akademl, 6(12), 296-326. google scholar
32. Keyes, R. (2017). Hakikat Sonrası Çağ: Günümüz Dünyasında Yalancılık ve Aldatma (D. Özçetin, Çev.). Delidolu Yayıncılık. google scholar
33. Kietzmann, J., Lee, L. W., & McCarthY, I. P. (2020). Deepfakes: Trick or treat? Business Horizons, 63(2), 135-146. https://doi.org/10.1016/j. bushor.2019.11.006 google scholar
34. KoYuncu, A. (2013). Özne ve Hakikat BağLamında Modern Ve Postmodern EpistemoLojinin ELeştirisi: Vasat'ı YakaLama Üzerine Bir Deneme. II. Türkiye Lisanüstü Çalışmaları Kongresi Bildiriler Kitabı I, 6-8. google scholar
35. Kranz, W. (1994). Antik Felsefe: Metinler ve Açıklamalar (S. BaYdur, Çev.). SosYaL YaYınLarı. google scholar
36. Maras, M.-H., & ALexandrou, A. (2019). Determining authenticitY of video evidence in the age of artificiaL inteLLigence and in the wake of deepfake videos. The International Journal of Evidence & Proof, 23(3), 255-262. https://doi.org/l0.1177%2F1365712718807226 google scholar
37. Masood, M., Nawaz, M., MaLik, M. K., Javed, A., & Irtaza, A. (2021). Deepfakes generation and detection: State-of-the-art, open chaLLenges, countermeasures, and waY forward. https://doi.org/10.48550/arXiv.2103.00484 google scholar
38. Massimi, M., & Baecker, R. M. (2011). DeaLing with death in design: DeveLoping sYstems for the bereaved. In Proc. SIGCHI Conference on Human Factors in Computing Systems (ss. 1001-1010). https://doi.org/10.1145/1978942.1979092 google scholar
39. McIntYre, L. (2019). Hakikat Sonrası (Post-Truth) (M. F. Biçici, Çev.). Can Sanat YaYınLarı. google scholar
40. MeskYs, E., Liaudanskas, A., KaLpokiene, J., & JurcYs, P. (2020). ReguLating deep fakes: LegaL and ethicaL considerations. Journal of Intellectual Property Law & Practice, 15(1), 24-31. https://doi.org/10.1093/jipLp/jpz167 google scholar
41. NguYen, T. T., NguYen, Q. V., NguYen, D., NguYen, D. T., HuYnh-The, T., Nahavandi, S., NguYen, T. T., Pham, Q., & NguYen, C. (2020). Deep Learning for deepfakes creation and detection: A surveY. arXiv: Computer Vision and Pattern Recognition. https://doi.org/10.48550/ arXiv.1909.11573 google scholar
42. Öztürk DiLek, G. (2019). YapaY Zekanın Etik GerçekLiği. Ankara Uluslararası Sosyal Bilimler Dergisi, 2(4), 47-59. google scholar
43. Öztürk, G. (2021). DijitaL RekLamın YapaY ZekaLı Yeni HaLi: AkıLLı RekLamcıLık. In F. Zengin & B. Kapır (Ed.), Yapay zekâ ve medya (ss. 245-267). Doruk YaYınLarı. google scholar
44. ParLak, İ., & GüLer, Z. (2008). Görünen Gerçekten GörünmeYen Gerçeğe Doğru KitLe İLetişim AraçLarı Ya Da GerçekLiğin "Öteki" Kurgusu. In M. KaYıkçı & R. Ö. Dönmez (Ed.), Yeni imparatorluk çağı (ss. 217-264). SaY YaYınLarı. google scholar
45. ParLak, M. O. (2018). Yeni MedYa ve HaberciLiğin Dönüşümü. Ufuk Üniversitesi Sosyal Bilimler Enstitüsü Dergisi, 7(14), 59-82. google scholar
46. Pataranutaporn, P., DanrY, P., Leong, J., Punpongsano, P., NovY, D., Maes, P., & Sra, M. (2021). AI-generated characters for supporting personaLized Learning and weLL-being. Nature Machine Intelligence, 3, 1013-1022. https://doi.org/10.1038/s42256-021-00417-9 google scholar
47. PateL, M., Gupta, A., Tanwar, S., & Obaidat, M. (2020). Trans-DF: A transfer Learning-based end-to-end deepfake detector. IEEE 5th International Conference on Computing Communication and Automation (ICCCA), 30-31 Ekim. 10.1109/ICCCA49541.2020.9250803 google scholar
48. Pirim, H. (2006). YapaY Zekâ. Journal of Yasar University, 1(1), 81-93. google scholar
49. Rini, R. (2020). Deepfakes and the epistemic backstop. PhiLosophers' Imprint, 20(24), 1-16. https://phiLarchive.org/archive/RINDAT google scholar
50. Rini, R., & Cohen, L. (2021). Deepfake, deep harms. JournaL of Ethics and SociaL PhiLosophY. https://phiLarchive.org/archive/RINDDH google scholar
51. Robins, K. (2013). İmaj: Görmenin Kültür ve Politikası (N. TürkoğLu, Çev.). AYrıntı YaYınLarı. google scholar
52. Rodriguez, C., & CamiLa, L. (2021). PoLiticaL deepfakes: CuLturaL discourses of sYnthetic audio-visuaL manipuLations. http://dx.doi.org/10. 34944/dspace/6565 google scholar
53. Rosenau, P. M. (2004). Post-Modernizm ve Toplum Bilimleri (T. Birkan, Çev.). BiLim Sanat YaYınLarı. google scholar
54. Şahin, Z. B. (2021). YapaY Zekâ UYguLamaLarının YapaY Zekâ BağLamında DeğerLendiriLmesi. In F. Zengin & B. Kapır (Ed.), Yapay zekâ ve medya (ss. 103-128). Doruk YaYınLarı. google scholar
55. SaY, C. (2019). 50 Soruda Yapay Zekâ. BiLim ve GeLecek KitapLığı. google scholar
56. Stenberg, G. (2006). ConceptuaL and perceptuaL factors in the picture superioritY effect. European Journal of Cognitive Psychology, 18(6), 813-847. google scholar
57. Temir, E. (2020). Deepfake: New era in the age of disinformation & end of reLiabLe journaLism. Selçuk İletişim Dergisi, 13(2), 1009-1024. google scholar
58. Tesich, S. (1992). A government of Lies. Nation, 254(1), 12-14. google scholar
59. ThiraviYam, T. (2018). ArtificiaL inteLLigence marketing. International Journal of Recent Research Aspects, 4(ÖzeL SaYı), 449-452. google scholar
60. TutaL, N. (2017). Post-Gerçek: ŞeYtanLa İmzaLanan Yeni SözLeşme. Varlık Dergisi, 1316, 6-10. google scholar
61. UğurLu, Ö. (2015). Kadının BenLik Sunumunun GünceL Bir Aracı OLarak SosYaL AğLar Bir Tasarım Unsuru: 'KusursuzLaştırma'. Uşak Üniversitesi Sosyal Bilimler Dergisi, 1, 231-248. google scholar
62. ÜnaL, R., & TaYLan, A. (2017). SağLık İLetişiminde YaLan Haber-YanLış EnformasYon Sorunu ve DoğruLama PLatformLarı. Atatürk İletişim Dergisi, (14). google scholar
63. UsLusoY, B. (2021). YapaY Zekâ ve Tüketim KüLtürünün Dönüşümü: YapaY Zekâ ÖzeLLikLi HizmetLer Ve Tüketici DeneYimi. In F. Zengin & B. Kapır (Ed.), Yapay zekâ ve medya (ss. 269-300). Doruk YaYınLarı. google scholar
64. Uzun, K., & Aydın, H. (2012). Kullanıcı Profilinin ve Bireylerarası İlişkilerin Gerçek Yaşamla Karşılaştırılması: Second Life Örneği. Eskişehir Osmangazi Üniversitesi İktisadi ve İdari Bilimler Dergisi, 7(2), 26-290. google scholar
65. Vaccari, C., & Chadwick, A. (2020). Deepfakes and disinformation: ExpLoring the impact of sYnthetic poLiticaL video on deception, uncertaintY, and trust in news. Soclal Medla + Soclety, 1-13. https://doi.org/10.1177%2F2056305120903408 google scholar
66. Van Dijk, J. (2016). Ağ Toplumu (Ö. Sakin, Çev.). Kafka Kitap. google scholar
67. Vatandaş, C., Eser, B. Y., & Erdoğan, M. (2019). Modern BiLim ÖrnekLiğinde GerçekLiğin KuşatıLması Sorunu. In O. Konuk & A. K. BaYram (Ed.), Sosyal Blllm, Etlk ve Yöntem (ss. 217-264). Adres YaYınLarı. google scholar
68. VerdoLiva, L. (2020). Media forensics and deepfakes: An overview. https://doi.org/10.48550/arXiv.2001.06564 google scholar
69. ViriLio, P. (2003). Enformasyon Bombası (K. Şahin, Çev.). Metis YaYınLarı. google scholar
70. WesterLund, M. (2019). The emergence of deepfake technoLogY: A review. Technology Innovatlon Management Revlew, 9(11), 40-53. http:// doi.org/10.22215/timreview/1282 google scholar
71. Yedekci Uzun, E. (2021). YapaY Zekâ TeknoLojiLerine TopLumsaL CinsiYet Perspektifinden Bakmak. In F. Zengin & B. Kapır (Ed.), Yapay zekâ ve medya (ss. 159-192). Doruk YaYınLarı. google scholar
72. Yengin, S., & BaYrak, T. (2017). SosYaL MedYada DijitaL KamuoYu. The Turklsh Onllne Journal of Deslgn, Art and Communlcatlon, 7(2). google scholar
73. Yengin, T., & BaYrak, T. (2018). Tüketimin OYunLaştırıLmasıYLa ArtırıLmış GerçekLik. Etklleşlm, (1), 56-77. google scholar
74. Yurdigül, Y., & YıLdırım, A. (2021). Gerçeklik Algısına Bir Müdahale Aracı OLarak Sentetik Medya TeknoLojileri. İletlşlm ve Dlplomasl, (5), 105-121. google scholar