The Application of Artificial Intelligence in Recruitment Procedures and Algorithmic Discriminations

Abstract

Algorithmic discrimination is the term used to describe any form of unequal treatment or consequences that individuals or groups face due to algorithms. Artificial intelligence techniques have enabled discriminatory actions based on current grounds of prejudice to occur in a more systematic, cost-effective, and incomprehensible manner. Algorithmic discrimination is commonly observed in recruitment processes. Occasionally, the employer's deliberate choices may determine this, while in other instances, it may transpire unbeknownst to both the employer and the creator of the artificial intelligence technology. While it is currently impractical to oppose technological advancements, it is imperative to guarantee their utilization in accordance with human rights. Given the impact of artificial intelligence on current employment, safeguarding the fundamental rights of individuals during the job application process is becoming increasingly crucial. In the absence of appropriate measures, individuals may face systematic discrimination and there is a potential for eugenic selection of worker candidates. The rapid and convenient availability of individuals' private personal information, which heightens the potential for discriminatory practices in the all-seeing digital world, necessitates immediate action.

Keywords

• algorithm
• discrimination
• hiring
• algorithmic bias
• artificial intelligence act

YAPAY ZEKANIN İŞE ALIM SÜREÇLERİNDE KULLANIMI VE ALGORİTMİK AYRIMCILIK

Abstract

Algoritmik ayrımcılık, algoritmaların bir sonucu olarak bireyler veya gruplar tarafından deneyimlenen her türlü farklı muameleyi veya etkiyi ifade etmek için kullanılan bir kavramdır. Hali hazırda mevcut ayrımcılık temellerine dayalı sebeplerle gerçekleşen ayrımcı davranışların yapay zekâ araçları vasıtasıyla daha sistematik, düşük maliyetli ve anlaşılamaz biçimde ortaya çıkması mümkün hale gelmiştir. İşe alım süreçleri de algoritmik ayrımcılık örnekleri ile sıkça karşılaşılan alanlardandır. Bazı hallerde işverenin bilinçli kararlarına dayanabileceği gibi bazı durumlarda işverenin ve hatta yapay zekâ aracını geliştirenin bilgisi dışında ortaya çıkması mümkündür. Gelinen noktada teknolojik gelişmelere karşı durabilmek mümkün olmasa da insan hakları ile uyumlu kullanımını sağlamak gerekmektedir. Yapay zekanın mevcut işlere etkileri düşünüldüğünde, istihdama giriş sürecinde bireyin temel haklarının korunması giderek artan bir önem arz etmektedir. Gerekli tedbirler geliştirilmediği takdirde bireylerin sistematik ayrımcılığa maruz kalması, hatta öjenik anlayışla işçi adaylarının seçimi mümkün olabilecektir. Dijitalleşmenin panaptikonunda bireyin ayrımcılığa uğrama riskini artıran özel nitelikli kişisel verilere erişim hızı ve kolaylığı acil tedbir ihtiyacı doğurmaktadır.

Keywords

• algoritma
• ayrımcılık
• işe alım
• algoritmik önyargı
• yapay zekâ yasası

References

1. Akduman, Gülbeniz. “Dijital İşe Alım: Dijital Dünya’nın İnsan Kaynakları İşe Alım Fonksiyonuna Etkisinin Kavramsal ve Uygulama Örnekleriyle Değerlendirilmesi.” International Journal of Arts and Social Studies 2, 3 (01 Aralık 2019): 24-44.
2. Albassam, Wael Abdulrahman. “The Power of Artificial Intelligence in Recruitment: An Analytical Review of Current AI-Based Recruitment Strategies.” International Journal of Professional Business Review 8, 6 (Haziran 2023).
3. Alpagut, Gülsevil ve Aybüke Karaca Yağcı. “İşyerinde Yapay Zeka Uygulaması ve Ayrımcılık.” Sicil İş Hukuku Dergisi 2, 49 (2023): 11-44.
4. Atar, Yavuz. Türk Anayasa Hukuku. Ankara: Seçkin Yayınları, 2023.
5. Aydınöz, Gonca. “Avrupa Birliği Direktifleri ile ATAD Kararları Çerçevesinde Ayrımcılık Yasağı ve Ayrımcılığın İspatı.” Çalışma ve Toplum 3, 22 (Ocak 2009): 163-92.
6. Aysolmaz, Banu, Deniz İren ve Nancy Dau. “Preventing Algorithmic Bias in the Development of Algorithmic Decision-Making Systems: A Delphi Study.” Proceedings of the Annual Hawaii International Conference on System Sciences (2020).
7. Bakırcı, Kadriye. Cinsiyet Ayrımcılığı Yasağı ve Türkiye. Ankara: Seçkin Yayıncılık, 2012.
8. Bakirci, Kadriye. Country Report: Gender Equality : How Are EU Rules Transposed into National Law? : Turkey 2021. LU: Publications Office of the European Union, 2021.

9. Baumgartner, Ulrich, Jonas H. Brunnbauer, ve Samuel Cross. “Anforderungen der DS-GVO an den Einsatz von Künstlicher Intelligenz Welche Regelungen gelten für Anbieter und Anwender?.” MMR 8 (2023).
10. Bharadwaj, S, Rudra Varun, Potukuchi Sreeram Aditya, Macherla Nikhil ve G. Charles Babu. “Resume Screening using NLP and LSTM.” İçinde 2022 International Conference on Inventive Computation Technologies (ICICT), 238-41, 2022.
11. Bonezzi, Andrea ve Massimiliano Ostinelli. “Can Algorithms Legitimize Discrimination?.” Journal of Experimental Psychology: Applied 27, 2 (2021): 447-59.
12. Borgesius, Frederik Zuiderveen. “Price Discrimination, Algorithmic Decision-Making, and European Non-Discrimination Law.” European Business Law Review 31, 3 (Mayıs 2020): 1-29.
13. V, Srividya ve Shripria V. “A Study on the Relationship between Predictive HR Analytics and HRM Practices in the IT Sector.” Chennai, India: EAI, 2021.
14. Vedder, Anton ve Laurens Naudts. “Accountability for the use of algorithms in a big data environment.” International Review of Law, Computers & Technology 31, 2 (Mayıs 2017): 206-24.
15. Wang, Xiaomeng, Yishi Zhang ve Ruilin Zhu. “A Brief Review on Algorithmic Fairness.” Management System Engineering 1, 1 (Kasım 2022): 7.
16. Wieringa, Maranke. “What to account for when accounting for algorithms: a systematic literature review on algorithmic accountability.” İçinde Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency, 1-18. FAT* ’20. New York, NY, USA: Association for Computing Machinery, 2020.
17. Yenı̇sey, Kübra Doğan. “İş Kanununda Eşitlik İlkesi ve Ayırımcılık Yasağı.” Çalışma ve Toplum 4, 11 (Ocak 2006): 63-82.
18. Yıldız, Gaye Burcu. İşverenin Eşit İşlem Yapma Borcu. Ankara: Yetkin Yayınevi, 2008. https://www.seckin.com.tr/kitap/281173889.
19. Zárate Rodriguez, Jorge G., Connie Y. Gan, Gregory A. Williams, Tia O. Drake, Thomas Ciesielski, Dominic E. Sanford ve Michael M. Awad. “Applicants’ Perception of Fit to Residency Programmes İn The Video‐İnterview Era: A Large Multidisciplinary Survey.” Medical Education 56, 6 (Haziran 2022): 641-50.
20. Zimmermann, Christian ve Johana Cabinakova. “A Conceptualization of Accountability as a Privacy Principle.” Içinde Business Information Systems Workshops, editör Witold Abramowicz, 261-72. Business Information Systems Workshops. Cham: Springer International Publishing, 2015.
21. Žliobaite, Indre ve Bart Custers. “Using Sensitive Personal Data May Be Necessary for Avoiding Discrimination in Data-Driven Decision Models.” Artificial Intelligence and Law 24, 2 (Haziran 2016): 183-201.