Yapay Zekâda Profilleme ve Otomatik Karar Alma Süreçleri

Yapay zekâ uygulamaları, büyük hacimli verileri işleyerek hayatımızın birçok alanında etkin rol oynamaktadır. Bu bağlamda, Avrupa Konseyi tarafından yayımlanan 108 Sayılı Sözleşme kapsamında profilleme; kişinin işteki performansı, ekonomik durumu, sağlığı, kişisel tercihleri veya ilgi alanları gibi belirli kişisel özelliklerinin değerlendirilmesi için kişisel verilerin kullanımını ihtiva eden her türlü otomatik kişisel veri işleme biçimi olarak tanımlanmıştır. Söz konusu tanımdan yola çıkarak profillemenin temelde üç önemli özelliği olduğu anlaşılmaktadır: otomatikleştirme, kişisel verileri kullanarak gerçekleşme ve kişinin kişisel yönlerini değerlendirmek için kullanılması. Yapay zekâ destekli sistemler, alışveriş sitelerindeki ürün önerilerinden, dijital yayın platformlarındaki içerik eşleştirmelerine kadar geniş bir yelpazede bu faaliyetleri gerçekleştirmektedir. Ancak bu durum, salt ticari amacın ötesine geçip bireylerin temel hak ve özgürlüklerini etkileyen otomatik kararlara dönüştüğünde, hukuki inceleme alanının tam merkezine yerleşmektedir.

Profilleme Uygulamalarının Hukuki Riskleri ve Ayrımcılık Yasağı

Profilleme sonucu elde edilen bilgilerin istismar edilmesi ve kişisel verilerin yapay zekâ uygulamaları tarafından işlenmesi, mahremiyet ihlalleri ile birlikte farklı hukuki sorunlara yol açabilmektedir. Özellikle suçla mücadele ve güvenlik amacıyla oluşturulan profilleme uygulamalarının amacını aşması, hukukumuzda ve uluslararası hukukta benimsenen eşit muamele ilkesinin ihlali riskini taşır. Örneğin, ABD’de tekrar suç işleme olasılığının hesaplanmasıyla koşullu salıverme konularında karar alınması amacıyla oluşturulan COMPAS uygulaması, ayrımcılık yasağını ihlal ettiği gerekçesiyle tartışmalara konu olmuş ve yargı kararlarına yansımıştır. Aynı şekilde, profilleme verilerinin manipülatif kampanyalarda veya gelir elde etme amacı dışında kullanılması, mahremiyet haklarının ve sivil özgürlüklerin zedelenmesi anlamını taşır. Bu sebeple, otomatik karar alma mekanizmalarının bireyler üzerindeki sosyolojik ve hukuki etkileri son derece kritiktir.

GDPR ve KVKK Kapsamında Otomatik Karar Alma Süreçleri

Kişisel verilerin otomatik şekilde işlenmesi konusunda Avrupa Birliği Genel Veri Koruma Tüzüğü (GDPR) 22. maddesi, ilgili kişilere tamamen otomatik işlemeye dayalı kararlara tabi olmama hakkı tanımıştır. Otomatik kararların sözleşmenin kuruluşu ve ifası için gerekli olması veya ilgili kişinin rızasına dayanması istisnaları bulunsa dahi veri sorumlusu tarafından kişiye şu temel haklar sağlanmalıdır:

• Karar sürecine insan müdahalesini talep etme hakkı,
• Ortaya çıkan sonuca karşı kendi görüşünü belirtme hakkı,
• Profilleme ve algoritmik analizler sonucu oluşan otomatik karara itiraz etme hakkı.

Türk hukukunda ise 6698 sayılı Kişisel Verilerin Korunması Kanunu kapsamında algoritmalar tarafından alınan otomatik kararlar ile insan müdahalesi içeren kararlar arasında açık bir kavramsal ayrım yapılmamış olmakla birlikte, ilgili kişiye münhasıran otomatik sistemler vasıtasıyla ortaya çıkan aleyhe sonuçlara itiraz hakkı verilmiştir.

Türk Hukukunda Revizyon İhtiyacı ve Çözüm Önerileri

Doktrindeki baskın görüşlere göre, yasal mevzuatın teknolojik gelişmelere uyum sağlamak üzere güncellenmesi ihtiyacı bulunmaktadır. Bireylerin temel haklarını zedeleyen veya kendilerini ciddi şekilde etkileyen profilleme ve otomatik karar süreçleri hakkında detaylı bilgi alabilmesi son derece elzemdir. İlgili kişiye münhasıran otomatik işlemelere dayalı karara tabi olmama hakkı verilmesi ve açık rızanın geçerliliği bağlamında yasal güvencelerin getirilmesi doktrinde yoğun şekilde tartışılmaktadır. Ancak diğer bir hukuki görüşe göre; mevcut yasal sistemimizdeki ilgili kişinin aydınlatılması yükümlülüğünün layıkıyla yerine getirilmesi, profillemeden kaynaklanan güncel sorunların çözümü için yeterli bir zemin sunabilir. Bu yaklaşımda odaklanılması gereken temel husus, veri sorumlularının aydınlatma yükümlülüğünü yapay zekâ uygulamalarının karmaşık yapısına ve karar mekanizmalarına uygun olarak, şeffaf ve anlaşılır bir yöntemle ifa etmeleridir.