Soru & Cevap
Bir şirkete iş görüşmesi için video kaydı yolladım, sistemdeki yapay zeka yüz ifademden ve sesimden psikolojik bir sorunum olduğunu analiz edip beni eledi. Yapay zekanın sağlık verimi işlemesi yasal mı?
İşe alım süreçlerinde kullanılan yapay zeka ve makine öğrenmesi sistemlerinin, adayların video veya ses kayıtları üzerinden duygu durumu analizi yaparak sağlık veya psikolojik durumlarına ilişkin çıkarımlarda bulunması, hukuken yüksek riskli ve ciddi ihlallere yol açabilecek bir işlemdir. Yasal mevzuatımız ve evrensel veri koruma ilkeleri uyarınca, bu tür yazılımların adayların rızası ve bilgisi dışında gizli sağlık verileri üretmesi ve bu verileri temel alarak otomatik eleme yapması oldukça ölçüsüz bir uygulama olarak kabul edilmektedir. Sistemin tamamen otomatik olarak, insan denetimi olmaksızın bir adayın kişisel özelliklerini veya sağlık risklerini puanlayıp karar vermesi, algoritmik ayrımcılık riski taşıyan ve adayların temel haklarına müdahale niteliğinde olan bir durumdur. Bu kapsamda şeffaflık yükümlülüklerine uyulmadan hakkınızda otomatik bir sistem aracılığıyla sağlık profilinin çıkarılması, inceleme gerektiren hukuka aykırı bir veri işleme eylemi sayılabilir.