Algorithmic Discrimination in Work Life

Yıl 2024, Cilt: 14 Sayı: 2, 1851 - 1886, 23.12.2024

Özgür Oğuz

https://doi.org/10.52273/sduhfd..1581436

Öz

The development of information technologies brings about significant opportunities, nonetheless, opening the floodgates to major risks. Algorithmic management tools are frequently used to increase efficiency in modern workplaces. Algorithms involved in many processes, starting with recruitment processes, algorithms are used in auditing and even dismissal of employees, which raises significant concerns for employee rights. The fact that algorithms contain bias and produce discriminatory results opens the door to systematic discrimination referred to as algorithmic discrimination. In order to respond to the irreversible consequences of algorithmic discrimination as soon as possible, lawmakers need to analyze the potential risks in a comprehensive manner and take the lead in updating the legislation. When a legal framework that can respond to possible concerns is prepared, only then the advantages of algorithmic tools can be enjoyed without restricting employee rights.

Anahtar Kelimeler

Discrimination, Algorithm, Equality, Big Data, Management

Çalışma Hayatında Algoritmik Ayrımcılık

Öz

Gelişen bilişim teknolojileri, beraberinde önemli fırsatlar getirdiği gibi kimi risklerin de kapısını aralamaktadır. Algoritmik yönetim araçları, modern işyerlerinde verimliliği artırmak için sıklıkla kullanılmaktadır. İşe alım süreçleriyle başlamak suretiyle işçilerin denetlenmesi ve hatta işten çıkarılması gibi birçok süreçte yer alan algoritmalar işçi hakları açısından önemli endişeler doğurmaktadır. Algoritmaların önyargı içermesi ve ayrımcı sonuçlar doğurması, algoritmik ayrımcılık adı verilen sistematik ayrımcılığın kapısını aralamaktadır. Algoritmik ayrımcılığın geri çevrilemez sonuçlarına bir an önce cevap verilebilmesi adına hukukçuların potansiyel riskleri etraflı bir şekilde analiz edip mevzuatın güncellenmesine ön ayak olmaları gerekmektedir. Ancak, endişelere cevap verebilen bir hukuki zemin hazırlandığında algoritmik araçların avantajları işçi hak ve özgürlüklerini kısıtlamadan kullanılabilecektir.

Anahtar Kelimeler

Ayrımcılık, Algoritma, Eşitlik, Büyük Veri, Yönetim

Kaynakça

• A face-scanning algorithm increasingly decides whether you deserve the job. Washington Post. <https://www.washingtonpost.com/technology/2019/10/22/ai-hiring-face-scanning-algorithm-increasingly-decides-whether-you-deserve-job/> Erişim Tarihi 14 Aralık 2023
• Abraha H, ‘Regulating Algorithmic Employment Decisions Through Data Protection Law’ (2023) 14 (2) European Labour Law Journal 172-191
• Aloisi A ve Gramano E ‘Artificial Intelligence Is Watching You at Work. Digital Surveillance, Employee Monitoring, and Regulatory Issues in the EU Context’ (2019) 41 (1) Special Issue of Comparative Labor Law & Policy Journal, “Automation, Artificial Intelligence and Labour Protection” 95-121
• Bozkurt Gümrükçüoğlu Y ve Yakacak G A, 'Yapay Zekânın İşe Alım Süreçlerinde Kullanımı ve Algoritmik Ayrımcılık' (2023) 72(4) Ankara Üniversitesi Hukuk Fakültesi Dergisi 1701-1757
• Büyükçalık ME, Dolaylı Ayrımcılık Yasağı (On İki Levha Yayıncılık 2021)
• Chang X, ‘Gender Bias in Hiring: An Analysis of the Impact of Amazon’s Recruiting Algorithm. Advances in Economics’ (2023) Management and Political Sciences 134-140
• Chen Z, ‘Ethics and Discrimination in Artificial Intelligence-Enabled Recruitment Practices’ (2023) Humanities and Social Sciences Communications 1-12
• Citron D K ve Pasquale F, 'The Scored Society: Due Process for Automated Predictions' (2014) 89(1) Washington Law Review 1-33
• Çayır K, 'Yaşa Dayalı Ayrımcılık/Yaşçılık', Ayrımcılık: Çok Boyutlu Yaklaşımlar (2. Baskı, İstanbul Bilgi Üniversitesi Yayınları 2018) 21-33
• De Stefano V, ‘Negotiating the Algorithm: Automation, Artificial Intelligence and Labour Protection’ (2018) 41 (1) Comparative Labor Law & Policy Journal 1-25
• Demir K, ‘İş Sözleşmesi Görüşmeleri Esnasında İşçi ve İşverenin Sorumluluğu’ (2022) 12 (2) Akdeniz Üniversitesi Hukuk Fakültesi Dergisi 1075-1090
• Deveci Z S, ‘İş Hukukunda İşverenin Eşit Davranma Borcu ve Özellikle İş Sözleşmesinin Feshi Açısından Önemi’ (2020) (2) İzmir Barosu Dergisi 15-63
• Disability rights advocates are worried about discrimination in AI hiring tools. MIT Technology Review. <https://www.technologyreview.com/2021/07/21/1029860/disability-rights-employment-discrimination-ai-hiring/> Erişim Tarihi 14 Aralık 2023
• Doğan Yenisey K, 'Eşit Davranma İlkesinin Uygulanmasında Metodoloji ve Orantılılık İlkesi' (2005) 2(7) Legal İş Hukuku ve Sosyal Güvenlik Hukuku Dergisi 974-1003
• Erdem A R, 'Ayrımcılığın Kavramsal Analizi' (2020) 4(4) Uluslararası İnsan ve Sanat Araştırmaları Dergisi 12-20 Erdoğan M ve Vatandaş C, 'Bireysel ve Toplumsal Dışlanma Pratiği: Önyargı ve Ayrımcılık' (2020) 3(1) İnsan ve Sosyal Bilimler Dergisi 474-485
• Ertürk Ş ve Gürsel İ, 'İş Hukukunda Eşit Davranma İlkesi' in Başterzi S (ed), Prof. Dr. Sarper Süzek’e Armağan Cilt I (Beta 2011) 425-458
• Ertürk Ş, İş İlişkisinde Temel Haklar (Seçkin Yayıncılık 2002)
• Fredman S, Discrimination Law (2. Baskı, Oxford University Press 2011)
• Gülmez M, ‘İnsan Haklarında Ayrımcılık Yasaklı Eşitlik İlkesi: Aykırı Düşünceler’ (2010) 2 (25) Çalışma ve Toplum 217-266
• Hannák A, Wagner C, Garcia D, Mislove A, Strohmaier M ve Wilson C, ‘Bias in Online Freelance Marketplaces: Evidence from TaskRabbit and Fiverr’ (2017) CSCW ‘17: Proceedings of the 2017 ACM Conference on Computer Supported Cooperative Work and Social Computing 1914–1933
• Heitmeyer W ve Kurt S, ‘Discrimination’. Encyclopedia Britannica, <https://www.britannica.com/topic/discrimination-society> Erişim Tarihi 14 Aralık 2023
• Hickman L, Bosch N, Ng V ve Saef R, ‘Automated Video Interview Personality Assessments: Reliability, Validity, and Generalizability Investigations’ (2022) 107 (8) Journal of Applied Psychology 1323–1351
• Houser K, ‘Can AI Solve the Diversity Problem in the Tech Industry? Mitigating Noise and Bias in Employment Decision-Making’ (2019) (22) Stanford Technology Law Review 290-353
• Janis M W, Kay R S ve Bradley A W, European Human Rights Law: Text and Materials (3. Baskı, Oxford University Press 2008)
• Jarrahi MH, Newlands G, Lee MK, Wolf CT, Kinder E ve Sutherland W, ‘Algorithmic Management in a Work Context’ (2021) 8 (2) Big Data & Society 1-14
• Jobscan. 2023 Applicant Tracking System (ATS) usage report: Key shifts and strategies for job seekers. <https://www.jobscan.co/blog/fortune-500-use-applicant-tracking-systems/> Erişim Tarihi 12 Aralık 2023
• Jones CC, ‘Systematizing Discrimination: AI Vendors & Title VII Enforcement’ (2022) (171) University of Pennsylvania Law Review 235-265
• Karaca A, Sosyal Beşeri ve İdari Bilimler Alanında Uluslararası Araştırmalar XI (Eğitim Yayınevi 2022)
• Karagöz V, ‘İş Hukukunda Ayrımcılık Tazminatı’, (2014) 5 (1) Erzincan Üniversitesi Sosyal Bilimler Enstitüsü Dergisi 57-76
• Karan U, ‘Türk Hukukunda Ayrımcılık Yasağı ve Türk Ceza Kanunu’nun 122. Maddesinin Uygulanabilirliği’ (2007) (73) TBB Dergisi 146-173
• — — Eşitlik İlkesi ve Ayrımcılık Yasağı, (On İki Levha Yayıncılık, 2017)
• Keser H, '4857 Sayılı İş Kanununa Göre İşverenin İş Sözleşmesi Yapma ve İş İlişkilerinde Eşit İşlem Yapma Yükümlülükleri ve Bunlara Aykırı Davranması Durumunda Karşılaşacağı Yaptırımlar' (2004) 7(3) Kamu-İş İş Hukuku ve İktisat Dergisi 37-73
• Kim P T, 'Data-Driven Discrimination at Work' (2017) 58(3) William & Mary Law Review 857-936
• Kim PT ve Bodie MT, ‘Artificial Intelligence and the Challenges of Workplace Discrimination and Privacy. ABA’ (2021) (35) Journal of Labor and Employment Law 289-315
• King AG ve Mrkonich M, ‘Big Data and the Risk of Employment Discrimination’ (2016) (68) Oklahoma Law Review 449-520
• Kolçak H, ‘Anayasa Mahkemesi’nin Eşitlik İlkesi Yorumu Işığında Dilsel Çoğulculuk Taleplerinin Değerlendirilmesi Üzerine Bir Analiz’ (2023) (1) Çukurova Üniversitesi Hukuk Araştırmaları Dergisi 80-99
• Köchling A ve Wehner MC, ‘Discriminated by an Algorithm: a Systematic Review of Discrimination and Fairness by Algorithmic Decision-Making in the Context of HR Recruitment and HR Development’ (2020) (13) Business Research 795–848
• Kroll JA Hue J, Barocas S, Felten EW, Reidenberg JR, Robinson DG ve Yu H, ‘Accountable Algorithms’ (2017) (165) University of Pennsylvania Law Review 633-705
• Lecher C, 'How Amazon Automatically Tracks and Fires Warehouse Workers for "Productivity"' (2019) The Verge https://www.theverge.com/2019/4/25/18516004/amazon-warehouse-fulfillment-centers-productivity-firing-terminations Erişim Tarihi 2 Aralık 2024.
• Lippert-Rasmussen K, Born Free and Equal? A Philosophical Inquiry into the Nature of Discrimination (Oxford University Press 2013)
• Lord JE, Guernsey KN, Balfe M ve Karr VL, Human Rights. Yes!: Understanding the Human Rights of Persons with Disabilities (2. Bası, University of Minnesota Human Rights Resource Center 2012)
• Moeckli D, 'Equality and Non-Discrimination', International Human Rights Law (2. Baskı, Oxford University Press 2014)
• Moss H, ‘Screened Out Onscreen: Disability Discrimination, Hiring Bias, and Artificial Intelligence’ (2021) 98 (4) Denver Law Review 775-805
• O'Neil C, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (Crown Publishing Group 2016)
• Oral T, 'Dijital Emek Platformlarında Algoritmik Yönetim ve Sendikalar' (2024) 11(1) Sağlık Akademisyenleri Dergisi 170-180
• Poyraz S, İş İlişkilerinde Ayrımcılık Yasağı (Yayımlanmamış Yüksek Lisans Tezi, Kadir Has Üniversitesi 2022)
• Pugliese R, Regondi S ve Marini R, ‘Machine Learning-Based Approach: Global Trends, Research Directions, and Regulatory Standpoints’ (2021) (4) Data Science and Management 19-29
• Reuters, ‘Amazon Scraps Secret AI Recruiting Tool That Showed Bias Against Women’, <https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G/> Erişim Tarihi 14 Aralık 2023
• Sarker IH, ‘Machine Learning: Algorithms, Real-World Applications and Research Directions’ (2021) (2) SN Computer Science 1-21
• Savage D ve Bales RA, ‘Video Games in Job Interviews: Using Algorithms to Minimize Discrimination and Unconscious Bias’ (2017) 32 (2) ABA Journal of Labor & Employment Law 211-228
• Scherer MU, King AG ve Mrkonich MN, ‘Applying Old Rules to New Tools: Employment Discrimination Law in the Age of Algorithms’ (2019) (71) South Carolina Law Review 555-584
• Seattle Times, ‘Rights group files federal complaint against HireVue, a hiring company that uses artificial intelligence.’ <https://www.seattletimes.com/business/rights-group-files-federal-complaint-against-ai-hiring-firm-hirevue-citing-unfair-and-deceptive-practices/> Erişim Tarihi 14 Aralık 2013
• Sonderling KE, Kelley BJ ve Casimir L, ‘The Promise and The Peril: Artificial Intelligence and Employment Discrimination’ (2022) 77 (1) University of Miami Law Review 1-87
• Sözer A N, 'AB’nin İstihdama İlişkin 2000/78 EG Sayılı Çerçeve Yönergesi Işığında Türk İş Hukukunda Din, Dünya Görüşü, Özürlülük, Yaşlılık ve Cinsel Eğilime İlişkin Düzenlemeler' (2006) 1(2) Sicil İş Hukuku Dergisi 184-208 Süzek S, 'İşverenin Eşit Davranma Borcu' (2008) 3(12) Sicil İş Hukuku Dergisi 24-38
• Timmons KC, ‘Pre-Employment Personality Tests, Algorithmic Bias, and the Americans With Disabilities Act’ (2021) 125 (2) Penn State Law Review 389-452
• Todolí-Signes A, ‘Algorithms, Artificial Intelligence and Automated Decisions Concerning Workers and the Risks of Discrimination: The Necessary Collective Governance of Data Protection’ (2019) 25 (4) European Review of Labour and Research 401-493
• Türkiye İnsan Hakları ve Eşitlik Kurumu, Temel Haklar Şartı ve Eşitlik ve Ayrımcılık Alanında Avrupa Birliği Direktifleri (2019) https://www.tihek.gov.tr/upload/file_editor/2019/03/1551818880.pdf Erişim Tarihi 2 Aralık 2024
• Yasin U, Tuncer SÇ, ‘İş Hukukunda Eşit Davranma İlkesi’ (2020) 7 (2) Pamukkale Avrasya Sosyoekonomik Çalışmalar Dergisi 86-104
• Yıldız G B, İşverenin Eşit İşlem Yapma Borcu (Yetkin Yayınları 2008)
• Yılmaz T, Gelişen Teknolojiler ve Hukuk III: Büyük Veri, Platform Çalışanlarının Algoritmik Yönetiminde İtibar Profillerinin Yeri ve Büyük Veri (On İki Levha Yayıncılık 2021)
• Yüzer Eltimur D, ‘İnsan Haklarının Korunması Bağlamında Yapây Zeka Uygulamaları’ (2022) 12 (2) Akdeniz Üniversitesi Hukuk Fakültesi Dergisi 559-594
• Zengin S, Ayrımcılık Tazminatı Hükmünün Kötüniyet ve İş Güvencesi Tazminatı Hükümleriyle Yarışması (Yayımlanmamış Yüksek Lisans Tezi, Dokuz Eylül Üniversitesi 2018)