Soru & Cevap
Bir şirkete iş başvurusu yaptım ve özgeçmişimi yapay zeka eledi. Yapay zekanın beni kadın olduğum için elediğini düşünüyorum, böyle bir şey hukuken mümkün mü?
İş alım süreçlerinde kullanılan algoritmik sistemlerin, eğitim verilerindeki ön yargılar sebebiyle cinsiyet temelinde ayrımcı sonuçlar doğurması hukuken ve fiilen mümkün bir durumdur. Yapay zeka sistemleri, geçmişteki verilerden öğrenirken, daha önce o pozisyona genellikle erkeklerin seçilmiş olması gibi faktörleri baz alarak kasıtlı ayrımcılık veya dolaylı ayrımcılık yapabilmektedir. Örneğin, geçmişte benzer bir büyük şirketin işe alım algoritmasının, erkek adayları veya maskülen dil kullanan kişileri kadınlara göre daha avantajlı konumlandırdığı tespit edilmiştir. Bu tarz bir uygulama, eşitlik ilkesini zedeleyebilecek ve ayrımcılık yasağı ihlali olarak hukuki incelemeye esas oluşturabilecek bir eylemdir. Eğer böyle bir durumla karşılaştıysanız, sistemin nasıl bir veri setiyle eğitildiği ve kararın ne derece şeffaf olduğu sorgulanarak eşit işlem borcuna aykırılık yönünden hukuki bir değerlendirme yapılabilir.