Evaluation of Regulations for the Prevention of Online Hate in the Context of the Technological Form and Operation of Social Networks

Abstract

This study aims to research on the concepts of hate speech and hate crime that can be viewed in social life and in the media. A conceptual perspective will be presented on what kind of expression hate speech, which has just been introduced to terminology, is, what it aims at and how it is related to freedom of expression, and these areas of discussion will be analyzed in the context of the film Wolves Empire. In the first part, the conceptual analysis of the concepts of hate speech and hate crime, the points that separate hate speech and freedom of expression as it constitutes a frequently encountered area of discussion, and the role of media tools in hate speech will be examined. In the context of the movie, hate speech in the cinema will be discussed. The study will be examined with the method of critical discourse analysis.

Keywords

• Hate Speech
• Hate Crime
• Hate Speech in the Media
• Racist Hate Speech
• Empire of the Wolves

Çevrim İçi Nefreti Önlemeye Yönelik Düzenlemelerin Sosyal Ağların Teknolojik Biçim ve İşleyişi Bağlamında Değerlendirilmesi

Öz

Kullanıcı sayıları milyarları aşan sosyal ağlar hem kamusal bir tartışma platformu hem de başat bir sosyal etkileşim ortamına dönüşmüş durumdadır. İletişim teknolojilerinin sağladığı olanaklar aynı zamanda bazı toplumsal gerilim ve çatışmaların da her zamankinden daha fazla görünür olmasına neden olmuştur. Sosyal ağların dışa vurumu kolaylaştıran yönleri, anonimliği, dolaysızlığı ve küresel doğası, aşırılık yanlıları ve nefret tacirleri için son derece elverişli bir ortam oluşturmaktadır. Ağlardaki nefret gruplarının sayısının katlanarak artması nefret söyleminin toplumsal barış ve huzuru bozarak bireysel hak ve özgürlükleri tehdit edecek aşamaya gelmesine neden olmuştur. Bu durum kurum ve kuruluşları daha kapsamlı, çok taraflı ve uzun vadeli düzenlemeler yapmaya zorlamaktadır. Bu çalışmada çevrim içi nefret söylemini önlemeye yönelik güncel dijital düzenlemelerin neler olduğu ortaya konularak bu düzenlemelerin ağların dijital döngüsü içinde uygulanabilirliği sorgulanmaktadır. Literatür taraması yöntemiyle kavramsal düzeyde ele alınan çalışma; teknoloji, insan ve toplum arasındaki olgusal ilişkileri yorumsamacı bir yaklaşımla ele almaktadır. Günümüzde hâlihazırda nefret içeriklerinin tespit edilmesi, yayından kaldırılması ve suç teşkil eden içeriklerin adli mercilere bildirilip suçun ve suçlunun kovuşturulması için geliştirilmiş teknolojik denetleme ve gözetim algoritmaları yaygın olarak kullanılmaktadır. Fakat bu algoritmalar gerek teknolojinin kendi doğasından kaynaklanan yetersizlikler gerekse de nefret söyleminin hukuki ve kültürel anlamda henüz daha netleşmemiş kavramsal yapısından dolayı soruna çözüm olamamaktadır.

Anahtar Kelimeler

• Nefret Söylemi
• Sosyal Ağ
• Kamusal Alan
• Yabancı Düşmanlığı
• Ayrımcılık

References

1. Alkiviadou, N. (2019). Hate Speech on Social Media Networks: Towards a Regulatory Framework?, Information & Communications Technology Law 28(1), (s.19–35).
2. Avis Sur La Lutte Contre Les Discours de Haine Sur İnternet, (10 juillet 2015) https://www. legi france. gouv.fr/jorf/id/JORFTEXT000030862432 (Erişim Tarihi: 02.02.2022).
3. Banks, J. (2010). Regulating Hate Speech Online, International Review of Law, Computers & Technology, 24(3), (s.233 –239).
4. Chandrasekharan, E., Pavalanathan, U., Srinivasan, A., Glynn, A., Eisenstein, J & Gilbert, E. (2017). You Can’t Stay Here: The Efficacy of Reddit’s 2015 Ban Examined Through Hate Speech, PACM on Human-Computer Interaction, 1(31), (s.31-22)
5. Cobbe, J. (2021). Algorithmic Censorship by Social Platforms: Power and Resistance, Philosophy & Technology, (s.34:739–766).
6. Council Of Europe Committee Of Ministers Of The Committee Of Ministers To Member States On “Hate Speech” Recommendatıon No. R (97) 20, https://rm.coe. int/1680505d5b (Erişim Tarihi: 14.02.2022).
7. Crawford, K. & Gillespie, T. (2016). What is a Flag For? Social Media Reporting Tools and The Vocabulary of Complaint, New Media & Society, 18(3) (s.410–428).
8. Ellul, J. (2003). Teknoloji Toplumu, (Çev. Musa Ceylan), Bakış Yayınları, İstanbul.

9. Gagliardone, I., Gal, D., Alves, T. & Martinez, G. (2015). Combattre Les Discours De Haine Sur Internet, Collection UNESCO Sur La Liberte De L’Internet, Paris.
10. Fink, A. (2010). Conducting Research Literature Reviews, SAGE Publications, United States of America.
11. International Convention on the Elimination of All Forms of Racial Discrimination, https:// www. ohchr.org/Documents/ProfessionalInterest/cerd.pdf (Erişim Tarihi: 03.02.2022).
12. International Covenant on Civil and Political Rights, https://www.ohchr.org/EN/ Professional Interest/Pages/CCPR.aspx (Erişim Tarihi:03.02.2022).
13. İhlalleri Bildirme, https://help.twitter.com/tr/rules-and-policies/twitter-report-violation (Erişim Tarihi: 10.03.2022).
14. İnceoğlu, Y. ve Sözeri, C. (2012). Nefret Suçlarında Medyanın Sorumluluğu: “Ya Sev Ya Terk Et Ya Da…, Nefret Söylemi ve/veya Nefret Suçları, (Der. Yasemin İnceoğlu), Ayrıntı Yayınları, İstanbul.
15. İnternet Ortamında İşlenen Suçlarda Uluslararası Ceza İstinabe İşlemleri, Dış İlişkiler ve Avrupa Birliği Genel Müdürlüğü, https://diabgm.adalet.gov.tr/Home/ SayfaDetay/internet-ortaminda-islenen-suclarda-uluslararasi-ceza-istinabe-islemleri14022020041756 (Erişim Tarihi: 20.02.2022).
16. Koebler, J. & Joseph Cox, The Impossible Job: Inside Facebook’s Struggle to Moderate Two Billion People (August 23, 2018), https://www.vice.com/en/article/xwk9zd/how-facebook-content-moderation-works
17. Leveraging AI and Machine Learning for Content Moderation, (February 04, 2021) https://appen.com/blog/content-moderation/ (Erişim Tarihi: 17.02.2022).
18. Marantz, A., Reddit and the Struggle to Detoxify the Internet: How do we fix life online without limiting free speech? (March 12, 2018) https://www.newyorker. com/magazine/2018/03/19/ reddit-and-the-struggle-to-detoxify-the-internet (Erişim Tarihi: 14.03.2022).
19. Nardocci,C. Hate Speech: Le Indicazioni Del Diritto Internazionale, https://controlodio.it/ hate-speech-indicazioni-diritto-internazionale/ (Erişim Tarihi: 11.03.2022).
20. Nefret Davranışı Politikası, https://help.twitter.com/tr/rules-and-policies/hateful-conduct-policy (Erişim Tarihi: 07.03.2022).
21. PPL Avia: L’association Des Services Internet Communautaires Salue La Décision Du Conseil Constitutionnel (18 Juin 2020), Association des Services Internet Communautaires (lasic.fr) (Erişim Tarihi: 03.02.2022).
22. Romano, A. How Hysteria Over Twitter Shadow-banning Led to a Bizarre Congressional Hearing, (Sep 6 2018), https://www.vox.com/2018/9/6/17824652/twitter-dorsey-energy-and-commerce-hearing-shadow-banning (Erişim Tarihi: 04.02.2022).
23. Scannell, P. (2020). Medya ve İletişim, (Çev. Oğuzhan Taş, Burcu Sümer), Ütopya Yayınevi, Ankara
24. Tranfield, D., Denyer, D. ve Smart, P. (2003). Towards a Methodology for Developing Evidence-Informed Management Knowledge by Means of Systematic Review, British Journal of Management, 14, (207-222).
25. Uygunsuz İçeriği Bildirme, https://support.google.com/youtube/answer/2802027?hl=tr&co=GENIE. Platform%3DAndroid#zippy=%2Cvideo-bildirme%2Coynatma-listesi-bildirme%2Ck% C3%BC%C 3%A7%C3%BCk-resim-bildirme (Erişim Tarihi: 14.03.2022).
26. Weber, A. (2009). Nefret Söylemi El Kitabı, (Çev. Metin Çulhaoğlu), Avrupa Konseyi Yayınları, Strazburg.
27. YouTube Güvenilir İşaretleyici Programı, https://support.google.com/youtube/ answer/7554338?hl= tr&ref_topic=9387085 (Erişim Tarihi: 13.03.2022).
28. Young, G.K. (2022). How Much is too Much: The Difficulties of Social Media Content Moderation, Information & Communications Technology Law, 31(1), (s.1-16).
29. Zuckerberg, Z., Building Global Community, (5 Mayıs 2021) https://www.facebook.com/ notes/ 3707971 095882612/ (Erişim Tarihi: 23.02.2022).