Soru & Cevap
İşe alım mülakatımda beni bir yapay zeka sistemi değerlendirdi ve eledi. Şirkete neden elendiğimi sorduğumda sistemin nasıl karar verdiğini biz de bilmiyoruz dediler, bu yasal bir cevap mı?
Şirketin, yapay zeka sisteminin karar verme sürecini size açıklayamaması, kişisel verilerin korunması hukukunun temelini oluşturan şeffaflık ilkesi ve hesap verebilirlik kuralları ile açıkça çelişen hukuka aykırı bir durum olarak karşımıza çıkar. Yapay zekanın verileri nasıl analiz ettiğinin ve hangi gerekçelerle karar verdiğinin bilinememesi, literatürde kara kutu problemi olarak adlandırılmakta olup, bu durum adil değerlendirme hakkı gibi temel hakları ihlal etme riski taşımaktadır. Karar alma sürecinde kullanılan yöntemin açıklanabilir, erişilebilir ve anlaşılabilir olması, şeffaflık ve aydınlatma yükümlülüğünün vazgeçilmez bir gereğidir. Bu nedenle işverenin "sistemi biz de bilmiyoruz" şeklindeki bir savunması yasal olarak kabul görmez ve size karşı gerçekleştirilen bu faaliyetin hukuka aykırılığının tespiti için inceleme başlatılmasına imkan tanır.