Soru & Cevap
Bir bankaya kredi başvurusu yaptım fakat otomatik bir sistem anında ret verdi. Gelir durumum veya yaşadığım bölge yüzünden sistemin ayrımcılık yapmış olabileceğini iddia edebilir miyim?
Tam otomatik sistemler tarafından verilen kararların, bireylerin yaşadığı bölge veya servet durumu gibi ekonomik göstergelere dayanarak ayrımcı sonuçlar üretmesi hukuken şikayete konu edilebilen ve incelenmesi gereken bir konudur. Finansal hizmetler ve kredi sektöründe kullanılan algoritmik karar verme sistemleri, düşük gelirli kişileri veya belirli bölgelerde yaşayanları daha riskli görerek kredi puanlarını haksız yere düşürebilmekte ve finansal fırsatlara eşit erişimi engelleyebilmektedir. Bu durum, Avrupa Genel Veri Koruma Tüzüğü gibi hukuki düzenlemelerde yer alan, kişilerin sadece otomatik işlemeye dayalı ve kendilerini hukuki olarak önemli ölçüde etkileyen kararlara tabi tutulmama hakkı çerçevesinde incelenebilir. Sistemin sizin maddi durumunuzu veya demografik bilgilerinizi kullanarak sizi peşinen dezavantajlı konuma düşürmesi, servet temelinde ayrımcılık şüphesi uyandıran ve algoritmik sürecin şeffaflığı bağlamında hukuki bir denetimi gerektiren uygulama olarak değerlendirilebilecektir.