Artificial Intelligence, Deepfake and Contemporary Sexual Crimes

Year 2024, Volume: 12 Issue: 2, 1077 - 1111, 27.12.2024

Efe Can Karabulat

https://doi.org/10.56701/shd.1558755

Abstract

The rapid advancements in AI and IT in the past five years have profoundly impacted human life, introducing new paradigms and social issues, particularly in the realm of criminal law. This article examines the challenges AI poses to legal systems, which struggle to keep pace with technological developments. The focus is on AI-generated content, such as deepfakes, and its implications for sexual crimes, including revenge porn and child pornography. The ease of creating realistic synthetic content raises significant ethical and legal concerns, with potential misuse leading to severe societal consequences. Despite some efforts to regulate these technologies, there remains a lack of comprehensive legal frameworks, especially in Turkish law. In Turkish law, especially regarding artificial pornographic content and sexual content involving children, there are not adequate legal regulations. This situation leads to some grave harms not being punishable. Additionally, certain social problems, due to being new, are not yet known and there are no regulations concerning these issues. Addressing these problems requires the introduction of new types of crimes and, more importantly, ensuring that the regulations in this area are continuously updated. This article responds the need for urgent academic contributions to inform policymakers and develop effective legal responses.

Keywords

Artificial Intelligence, Deepfake, Sexual Crimes, Obscenity, Cybercrimes

Yapay Zeka, Deepfake ve Yeni Nesil Cinsel Suçlar

Abstract

Geçtiğimiz 5 yıllık süreçte, yapay zeka, bilgi ve iletişim teknolojisi alanındaki gelişmeler, insan hayatını derinden etkilemiş, özellikle ceza hukukunu etkileyecek surette yeni paradigmalar ve sosyal sorunlar ortaya çıkarmıştır. Bu makale çalışması, yapay zekanın, teknolojik gelişmelere ayak uydurmakta zorlanan hukuk düzeni bakımından ortaya çıkardığı meseleleri konu edinmektedir. Müşahhas olarak, deepfake gibi yapay zekadan yararlanılan programlar ile üretilen içerikleri ve bu içeriklerin intikam pornografisi ve çocuk pornografisi gibi sonuçları incelenmiştir. Bu yapay içeriklerin nispeten kolay bir biçimde üretilebiliyor ve paylaşılabiliyor olması, sosyal açıdan büyük sorunlara yol açabilecek niteliktedir. Bu teknolojik araçlara yönelik bazı hukuki düzenleme çabaları mevcut olmakla birlikte, özellikle Türk hukukunda, kapsayıcı düzenlemelerin eksikliği dikkat çekmektedir. Türk hukukunda, özellikle yapay pornografik içerikler ve içerisinde çocukların yer aldığı cinsel içerikler bakımından yeterli hukuki düzenlemeler mevcut değildir. Bu durum, çok ağır birtakım haksızlıkların dahi cezalandırılabilir olmamasına yol açmaktadır. Bunun yanında, birtakım sosyal sorunlar, çok yeni olmaları nedeniyle henüz bilinmemektedir ve bu konularda hiçbir düzenleme yoktur. Bu sorunların giderilmesi, yeni suç tiplerinin ihdasını ve daha da önemlisi bu alandaki düzenlemelerin sürekli güncel olmasını gerektirmektedir. Bu makale çalışması ile bu hususta politika oluşturucuları bilgilendirmek ve mezkûr sorunlara karşı etkin bir mücadele verilebilmesini sağlamak için akademik katkı sunulmaya çalışılmaktadır.

Keywords

Yapay Zeka, Deepfake, Cinsel Suçlar, Müstehcenlik, Siber Suçlar

References

• Ajder, Henry - Giorgio Patrini, Francesco Cavalli - Laurence Cullen. The State of Deepfakes: Landscape, Threats, and Impact. (Deeptrace Labs, 2019).
• Akbulut, Berrin. "Yapay Zekâ ve Ceza Sorumluluğu". Ankara Hacı Bayram Veli Üniversitesi Hukuk Fakültesi Dergisi, 27/4 (2023), 267-319.
• Aksoy-Retornaz, Emine Eylem. Bir Siber Taciz Biçimi: Cinsel İçerikli Görüntüleri Rızaya Aykırı Olarak İfşa Etme, Yayma, Erişilebilir Kılma veya Üretme Suçu (Revenge Porn ve Deep Fake). (İstanbul: Onikilevha Yayınları, 2021).
• Anderson, Wade. "Criminalizing 'Virtual' Child Pornography Under the Child Pornography Prevention Act: Is it Really What it 'Appears to Be'?". University of Richmond Law Review 35/2 (2001), 393-421.
• Arman, Perçem. "Otonom Silah Sistemlerinin Uluslararası İnsancıl Hukukun Ayrım Gözetme İlkesi Çerçevesinde Değerlendirilmesi". Kadir Has Üniversitesi Hukuk Fakültesi Dergisi, 11/2 (2023), 457-483.
• Arslan, Fatih. "Deepfake Technology: A Criminological Literature Review". Sakarya Üniversitesi Hukuk Fakültesi Dergisi, 11/1 (2023), 701-720.
• Babayiğit, Beşir. "Deepfake’in Ceza Hukuku Bakımından Değerlendirilmesi ve De Lege Feranda Öneriler". Ankara Hacı Bayram Veli Üniversitesi Hukuk Fakültesi Dergisi, 25/4, (2021), 655-704.
• Bacaksız, Pınar – Sümer, Seda Yağmur. Robotlar, Yapay Zekâ ve Ceza Hukuku. (Ankara: Adalet Yayınevi, 2021).
• Barua, Archana – Barua, Ananya. "Gendering the Digital Body: Women and Computers". AI and Society, 27 (2012), 465-477.
• Bates, Samantha. "Revenge Porn and Mental Health: A Qualitative Analysis of the Mental Health Effects of Revenge Porn on Female Survivors". Feminist Criminology, 12 (2017), 22-42.
• Beshiri, Arbër - Susuri, Arsim. "Dark Web and Its Impact in Online Anonymity and Privacy: A Critical Analysis and Review". Journal of Computer and Communications, 7/3, (2019), 30-43.
• Branch, Kathryn - Hilinski-Rosick, Carly – Johnson, Emily, Solano, Gabriela. "Revenge Porn Victimization of College Students in the United States: An Exploratory Analysis". International Journal of Cyber Criminology, 11 (2017), 128-142.
• Brundage vd. The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation. (Oxford: Future of Humanity Institute, 2018).
• Bundesministerium für Inneres. Aktionsplan Deepfake. (Wien: Digitalprintcenter des Bundesministeriums für Inneres, 2023).
• Can, Neslihan. "Sosyal Medyada Paylaşılan Çocuklara Ait Görüntülerin Müstehcenlik Suçları (TCK m. 226/3 ve 226/5) Bağlamında Değerlendirilmesi." Marmara Üniversitesi Hukuk Fakültesi Hukuk Araştırmaları Dergisi, 29/1 (2023), 276-313.
• Carlton, Alessandra. "Sextortion: The Hybrid 'Cyber-Sex' Crime". North Carolina Journal of Law & Technology, 21/3 (2020), 177-215.
• Citron, Danielle. "Sexual Privacy". The Yale Law Journal, 128/7 (2019), 1870-1960.
• Communications Security Establishment. Cyber Threats to Canada’s Democratic Process. (Ministery of National Defence, 2023).
• Cyber Civil Rights Initiative. "Nonconsensual Porn Infographic." 2014. Accessed May 31, 2024. https://cybercivilrights.org/revenge-porn-infographic/.
• Çağlar, Seda - Savaşer, Sevim. "İnternet ve Çocuk Pornografisi". Uluslararası İnsan Bilimleri Dergisi, 7/1 (2010), 1002-1008.
• Çakıroğlu, Şölen, “Uluslararası Sözleşmeler Işığında Türk Hukukunda Çocuk Pornografisi Kavramı”. Ceza Hukuku ve Kriminoloji Dergisi, 11 (2023): 73-93.
• Çam, Şerife. "Çocuk Pornografisi Tartışmalarına İlişkin Sorular". İletişim Araştırmaları Dergisi, 1/2 (2003), 55-86.
• Delfino, Rebecca. "Pornographic Deepfakes: The Case for Federal Criminalization of Revenge Porn’s Next Tragic Act". Fordham Law Review, 88/3 (2019), 887-938.
• Diamond, Milton – Jozifkova, Eva – Weiss, Petr. "Pornography and Sex Crimes in the Czech Republic". Archives of Sexual Behavior, 40/6 (2011), 1037-1043.
• Eaton, Asia – Jacobs, Holly – Ruvalcaba, Yanet. 2017 Nationwide Online Study of Nonconsensual Porn Victimization and Perpetration. (Florida: Florida National University, Cyber Civil Rights Initiative, 2017).
• Gieseke, Anne Pechenik. "'The New Weapon of Choice': Law's Current Inability to Properly Address Deepfake Pornography". Vanderbilt Law Review, 73/5 (2020), 1479-1516.
• Grace, Katja - Harlan Stewart - Julia Fabienne Sandkühler - Stephen Thomas- Ben Weinstein-Raun ve Jan Brauner, “Thousands of AI Authors on the Future of AI”, ArXiv, 1 (2024), 1-38.
• Harris, Douglas. "Deepfakes: False Pornography is Here and the Law Cannot Protect You". Duke Law & Technology Review, 17 (2019), 99-128.
• Henry, Nicola – Flynn, Asher – Powell, Anastasia. "Image-based Sexual Abuse: Victims and Perpetrators". Trends & Issues in Crime and Criminal Justice no. 582. (Canberra: Australian Institute of Criminology, 2019).
• Hopkins, David. "Knowing Just Enough to be Dangerous: The Sociological Effects of Censoring Public AI". Cybersecurity Undergraduate Research Showcase, 8 (2023), 1-8.
• Işıkoğlu, Tuğçe. Müstehcenlik Suçu. (Yayımlanmamış Yüksek Lisans Tezi, Bursa, 2021).
• Kamal, Mudasir – Newman, William. "Revenge Pornography: Mental Health Implications and Related Legislation". Journal of American Academy of Psychiatry and the Law, 44 (2016), 359-367.
• Kangal, Zeynel. Yapay Zekâ ve Ceza Hukuku. (İstanbul: Onikilevha Yayıncılık, 2021).
• Karabulat, Efe Can. Cezaların Etkinliği Bağlamında Türk Suç Siyaseti. (Ankara: Adalet Yayınevi, 2024).
• Karabulat, Efe Can. "Cinsel Suçların Hileyle İşlenmesi: Rıza Gösterilen Kişinin Kimliğine İlişkin Sorunlar". Dokuz Eylül Üniversitesi Hukuk Fakültesi Dergisi, 26/1 (2024), 587-640.
• Karabulat, Efe Can. Karşılaştırmalı Olarak Objektif Cezalandırılabilme Şartları ve Muhakeme Şartları. (Yayımlanmamış Yüksek Lisans Tezi, Ankara, 2016).
• Koca, Mahmut – Üzülmez, İlhan. Türk Ceza Hukuku Özel Hükümler. (Ankara: Adalet Yayınevi, 2020).
• Kommey, Benjamin – Oniti, Isaac – Tamakloe, Elvis – Opoku, Daniel. "A Reinforcement Learning Review: Past Acts, Present Facts and Future Prospects". IT Journal Research and Development, 8/2 (2024), 120-142.
• Konert, Anna – Balcerzak, Tomasz. "Military Autonomous Drones (UAVs) - From Fantasy to Reality: Legal and Ethical Implications". Transportation Research Procedia, 59 (2021), 292-299.
• Kutchinsky, Berl. "Pornography and Rape: Theory and Practice?" International Law of and Psychiatry, 14 (1991), 47-64.
• LeCun, Yann – Bengio, Yoshua – Hinton, Geoffrey. "Deep Learning." Nature, 521 (2015), 436-444.
• Lenhart, Amanda, Ybarra, Michele, Price-Feeney, Myeshia. "Nonconsensual Image Sharing: One in 25 Americans Has Been Victim of Revenge Porn". (Data & Society Research Institute, 2016).
• Maddocks, Sophie. "‘A Deepfake Porn Plot Intended to Silence Me’: Exploring Continuities Between Pornographic and ‘Political’ Deep Fakes." Porn Studies 7, no. 4 (2020): 415-423.
• McGlynn, Clare - Rackley, Erika. "Image-Based Sexual Abuse". Oxford Journal of Legal Studies, 37/3, (2017), 1-28.
• Nelson, Sharon D. – Simek, John W. – Maschke, Michael. "Detecting Deepfakes." Law Practice 46/1 (2020), 42-47.
• Olson, Abigail. "The Double-Side of Deepfakes: Obstacles and Assets in the Fight against Child Pornography". Georgia Law Review 56/2 (2022), 865-892.
• Öhman, Carl. "Introducing the Pervert’s Dilemma: A Contribution to the Critique of Deepfake Pornography". Ethics and Information Technology, 22 (2020), 133-140.
• Özbek, Veli Özer. Müstehcenlik Suçu. (Ankara: Seçkin Yayıncılık, 2009).
• Palmer, Tanya. "Rape Pornography, Cultural Harm and Criminalisation". Northern Ireland Legal Quarterly, 69/1 (2018), 37-58.
• Pascale, Emily. "Deeply Dehumanizing, Degrading, and Violating: Deepfake Pornography and the Path to Legal Recourse". Syracuse Law Review, 73/1 (2023), 335-366.
• Phelan, Patrick. "Are the Current Legal Responses to Artificial Intelligence Facilitated 'Deepfake' Pornography Sufficient to Curtail the Inflicted Harm?" North East Law Review, 9/2 (2022), 20-29.
• Rini, Regina – Cohen, Leah. "Deepfakes, Deep Harms". Journal of Ethics and Social Philosophy, 22/2 (2022), 143-161.
• Ruvalcaba, Yanet – Eaton, Asia. "Nonconsensual Pornography Among U.S. Adults: A Sexual Scripts Framework on Victimization, Perpetration, and Health Correlates for Women and Men". Psychology of Violence, 10/1 (2020), 68-78.
• Sarker, Iqbal H. "Deep Learning: A Comprehensive Overview on Techniques, Taxonomy, Applications and Research Directions". SN Computer Science, 2(420) (2021), 1-20.
• Sandvik, Kristin – Lohne, Kjersti. "The Struggle against Sexual Violence in Conflict: Investigating the Digital Turn". International Review of the Red Cross, 102(913) (2020), 95-115.
• Steinberg, Stacey. "Changing Faces: Morphed Child Pornography Images and the First Amendment". Emory Law Journal, 68/5, (2019), 909-938.
• Thombre, Madhura. "Deconstructing Deepfake: Tracking Legal Implications and Challenges." International Journal of Law Management & Humanities, 4 (2021), 2267-2274.
• Turinay, Faruk. "Müstehcenlik Suçunun Hukuka Aykırılık Unsuru Bakımından Edebi Eserler". Ankara Barosu Dergisi, 4 (2019), 77-138.
• US Department of Justice. National Strategy for Child Exploitation Prevention and Interdiction. 2023.
• Yıldız, Mehmet Emre. "Yargıtay Kararları Işığında Dijital Flört Şiddeti Teşkil Eden Yöntemlerden Doğan Ceza Sorumluluğu". Çukurova Üniversitesi Hukuk Araştırmaları Dergisi, 2 (2023), 93-143.