Soru & Cevap
Mağdur olduğum olayda şirket, kararı yapay zekanın verdiğini ve sistemin bir kara kutu olduğu için sebebini kendilerinin de bilmediğini söylüyor, bu yasal mı?
Veri sorumlusu statüsündeki bir şirketin, hakkınızdaki kararı üreten algoritmanın çok karmaşık olduğunu ve bu yüzden açıklama yapamayacaklarını beyan etmesi hukuken geçerli bir savunma veya mazeret olarak kabul edilmemektedir. İnsan beynini taklit eden derin öğrenme modelleri gibi kara kutu algoritmalarının, aldığı kararların geri dönük olarak incelenmesini teknik yönden zorlaştırdığı bilinmekle beraber, bu durum hukuki aydınlatma sorumluluğunu asla ortadan kaldırmaz. Avrupa veri koruma kurallarının da sıkça vurguladığı üzere, algoritmik sistemlerin teknolojik karmaşıklığı kurumların şeffaflık ilkelerini çiğnemesine bir kılıf olamaz. İlgili şirket, yazılımın tüm kodlarını veremese bile, kararda ağırlığı olan girdileri, temel mantığı ve sistemin genel çalışma prensibini sizin anlayabileceğiniz seviyede izah etmek için çeşitli denetim metotlarını kullanmakla yükümlüdür.