DIGITAL MANIPULATION 'DEEPFAKE' TECHNOLOGY AND THE COGENCY OF THE NONEXİSTENT

Öz

The era we live in is in which hybrid life practices manifest themselves with the integration of new communication technologies into objective life with physical participation. This era, in which social media, which is the founding element of both virtual and objective reality, is an alternative to objective reality, also includes the development of artificial intelligence algorithms in which objective reality is reconstructed in virtual reality. The effectiveness of artificial intelligence in new communication technologies is especially evident in content production and distribution processes. Deepfake technology is an output that has the capacity and abilities to learn, imitate and even manipulate the abilities of living objects by using deep learning algorithms of artificial intelligence technology. This technology, which was first used by malicious online actors in 2018, while adding visual and semantic differences to the art of cinema, is mostly used for deep frauds in digital spaces. Digital spaces offer digital identities the freedom to hide and move freely, which they cannot find much in physical living spaces. While these facility and opportunities offered by digitalization to its users also cause technologies such as deepfake to be used more in online areas, it also reveals deep problems that point to perceptual inconsistencies such as circulating the content created with these technologies in digital spaces and questioning the truth. The study focuses on the effectiveness and usage of deepfake technology in digital spaces. The effects and results of this technology, which is used extensively especially in the social media content production process, on digital identities are discussed in detail within the scope of the study.

DİJİTAL MANİPÜLASYON ‘DEEPFAKE’ TEKNOLOJİSİ VE OLMAYANIN İNANDIRICILIĞI

Öz

İçinde bulunduğumuz çağ, yeni iletişim teknolojilerinin fiziksel katılım sağlanılan nesnel yaşama entegre olması ile birlikte hibrit yaşam pratiklerinin kendini gösterdiği çağdır. Özellikle hem sanal hem de nesnel gerçekliğin kurucu unsuru olan sosyal medyanın, nesnel gerçekliğe bir alternatif olduğu bu çağ, aynı zamanda yapay zekâ algoritmalarının nesnel gerçeğin sanal gerçeklikte yeniden inşa edildiği gelişmeyi de kapsamaktadır. Yapay zekânın yeni iletişim teknolojilerinde etkinliği özellikle içerik üretme ve dağıtma süreçlerinde kendini göstermektedir. Deepfake teknolojisi, yapay zekâ teknolojisinin derin öğrenme algoritmalarını kullanarak canlı objelerin yeteneklerini öğrenme ve taklit etme hatta manipüle etme kapasitesi ve yetilerine sahip bir çıktıdır. İlk olarak 2018 yılında kötü niyetli çevrimiçi aktörler tarafından kullanılmaya başlayan bu teknoloji, özellikle sinema sanatına görsel ve anlamsal olarak farklılıklar katarken, dijital uzamlarda daha çok derin sahtekârlıklar için kullanılmaktadır. Dijital uzamlar dijital kimliklere fiziksel yaşam alanlarında pek fazla bulamadığı saklanabilme ve sınırsız hareket etme özgürlüğü sunmaktadır. Dijitalleşmenin kullanıcılarına sunduğu bu imkan ve fırsatlar aynı zamanda deepfake gibi teknolojilerin çevrimiçi alanlarda daha fazla kullanılmasına neden olurken, bu teknolojiler ile oluşturulan içeriklerin dijital uzamlarda dolaşıma sokulması, gerçeğin sorgulanması gibi algısal tutarsızlıklara işaret eden derin sorunları da ortaya çıkarmaktadır. Çalışma, deepfake teknolojisinin dijital uzamlardaki etkinliği ve kullanım amaçlarına odaklanmaktadır. Özellikle sosyal medya içerik üretim sürecinde yoğun bir şekilde kullanılan bu teknolojinin dijital kimlikler üzerinde oluşturduğu etki ve sonuçlar çalışma kapsamında detaylıca tartışılmıştır.

Anahtar Kelimeler

• Deepfake
• Sosyal Medya
• Dijital Manipülasyon
• Yapay Zeka
• Derin Öğrenme

Kaynakça

1. Bahar, U. M. ve Afsana, S. (2020). Deep Insights of Deepfake Technology : A review. DUJASE, 5,1-2,13-23
2. Bartlett, J. (2016). Dark Net: İnternetin Yeraltı Dünyası. (Çev: Y. Konyalı). İstanbul: Timaş.
3. Björnsson, G. (2016) Outsourcing The Deep Self: Deep Self Discordance Does Not Explain Away Intuitions in Manipulation Arguments, Philosophical Psychology, 29,5, 637-653
4. Chapaux-Morelli, P. ve Couderc, P. (2017). İkili İlişkilerde Duygusal Manipülasyon: Narsist Bir Partnerle Yüzleşmek. İstanbul: İletişim
5. Chomsky, N. (1993). Medya Gerçeği, (Çev. Yılmaz, Abdullah) İstanbul: Tüm Zamanlar
6. Güera, D. ve Delp, E. J. (2018) "Deepfake Video Detection Using Recurrent Neural Networks," 2018 15th IEEE International Conference on Advanced Video and Signal Based Surveillance (AVSS), 2018, pp. 1-6, doi: 10.1109/AVSS.2018.8639163.
7. lyu, S. (2020). Deepfake detection: Current challenges and next steps. In 2020 IEEE International Conference on Multimedia & Expo Workshops (ICMEW) pp. 1-6. IEEE.
8. Manovich, L. (1996) . ON TOTALITARIAN INTERACTIVITY (notes from the enemy of the people) http://manovich.net/content/04-projects/017-on-totalitarian-interactivity/14_article_1996.pdf.

9. Özer, N. P. (2019). Gazete Haberlerinde Manipülasyon 28 Şubat Örneği. Medeniyet ve Toplum Dergisi. 3, 2, 213-236.
10. Schiller, H. (1993). Zihin Yönlendirenler. (Çeviren: Cevdet Cerit). İstanbul: Pınar
11. Westerlund M. (2019). The Emergence of Deepfake Technology: A Review.technology innovation management review, 9, 11, 39-52.