Makale

Günümüzde öğrenen algoritmaların birçok alanda ve kritik karar alma süreçlerinde kullanılması, bu sistemlerin adil olup olmadıklarını kontrol edebilmek amacıyla nasıl işlediğini detaylı olarak bilme ihtiyacını artırmaktadır. Ancak bu teknolojilerin, özellikle de makine öğrenimi tekniklerine dayanılarak geliştirilen algoritmaların, incelenen sonuçlara hangi aşamalardan geçerek ulaştığını belirleyebilmek giderek zorlaşmaktadır. Algoritmaların açıkça kodlandığı emirleri aşarak karmaşık neden-sonuç ilişkileri içerisinde öğrenme davranışı sergilemesi, literatürde "kara kutu" (black box) fenomeni olarak adlandırılmaktadır. Bilişim hukuku bağlamında bu durum, algoritmaların şeffaflığı ve Avrupa Birliği Genel Veri Koruma Tüzüğü (GDPR) kapsamında tartışılan açıklama hakkı ile doğrudan bir çatışma yaratmaktadır. Bir algoritmanın aldığı kararın arkasındaki mantığa dair anlamlı bilgi edinme hakkı karşısında, yapay sinir ağları gibi çok boyutlu sistemlerin iç işleyişlerinin açıklanamazlığı, veri sorumluları açısından ciddi uyum sorunları doğurmaktadır. Bu makalede, söz konusu hukuki ve teknik çıkmazı aşmak adına literatürde ve bilişim dünyasında öne sürülen çözüm metotları ele alınacaktır.

Kara Kutu Fenomeni ve Hukuki Şeffaflık Çıkmazı

Kara kutu fenomeni, karmaşıklık ve boyutluluk olmak üzere iki temel teknik zorluktan beslenmektedir. Derin öğrenme metodunu kullanan algoritmaların yapıları itibariyle çok sayıda yapay nöronun aralarındaki ilişkiyi işlemesi, kararın geriye dönülerek incelenmesini neredeyse imkansız kılmaktadır. Karar alma mekanizmasının sezgisel yapısı, yapay nöronların tek tek incelenmesiyle dahi söz konusu çıktıya nasıl ulaşıldığının belirlenememesine yol açmaktadır. Öte yandan, veriler arasındaki çok boyutlu geometrik ilişkilerin insan aklı tarafından kolayca anlaşılamayacak düzeyde olması, şeffaflık ilkesi açısından büyük bir bariyerdir. Veri koruma hukuku uyarınca ilgili kişilere tanınan, otomatize bir karar alma mekanizmasının mantığı hakkında anlamlı bilgi edinme hakkı, algoritmaların artan karmaşıklığı ile şiddetli bir tezat oluşturmaktadır.

Kara Kutu Sorununun Çözümüne Yönelik Teknik Yaklaşımlar

Gelişmiş algoritmaların işleyişini açıklamak ve açıklama hakkı kapsamında veri sorumlularının yasal yükümlülüklerini yerine getirmesini sağlamak amacıyla bilim insanları tarafından çeşitli teknik metotlar geliştirilmiştir. Bu yöntemler, algoritmaların iç işleyişini şeffaflaştırmayı, hukuki hesap verilebilirliği tesis etmeyi ve olası ayrımcı kararların önüne geçmeyi hedeflemektedir. Veri koruma hukuku pratiğinde bu araçlar, otomatize kararların adil ve öngörülebilir olmasını sağlamada kritik bir rol oynamaktadır. Literatürde bu çözümler genel olarak modele bağlı olanlar, modelden bağımsız metotlar ve yapıcı yaklaşımlar olarak kategorilere ayrılmaktadır. Bu sınıflandırma, incelenen algoritmanın kaynak koduna erişim imkanı olup olmamasına, ticari sırların korunmasına ve açıklamanın nasıl bir matematiksel varsayıma dayandığına göre şekillenmektedir.

• Modelden Bağımsız Metotlar (Kara Kutu Yaklaşımı): Algoritmanın kaynak koduna erişilemediği varsayımıyla çalışır. Sadece sisteme verilen girdiler ile alınan çıktılar arasındaki ilişkiler incelenir. LIME, Anchor ve TREPAN gibi sistemler bu kategoriye girmekte olup, tüm makine öğrenimi modellerine uygulanabilir yapıdadırlar.
• Modele Bağlı Metotlar (Beyaz Kutu Yaklaşımı): Algoritmanın kodunun analiz edilmesinin mümkün olduğu senaryolarda kullanılır. Modelin içyapısı bilinerek, belirli bir karara ulaşılırken hangi varsayımların kullanıldığı test edilir. Elvira ve Bayesyen ağ analizleri bu yaklaşıma örnek teşkil eder.
• Yapıcı Yaklaşımlar (Tasarımdan İtibaren Açıklanabilirlik): Algoritmik sistemlerin en başından itibaren hukuki şeffaflık ve açıklanabilirlik ilkeleri dikkate alınarak tasarlanmasıdır. Genelleştirilmiş katkı modelleri (GAMs) gibi yapılar, özellikleri görselleştirerek karmaşıklığı bertaraf etmeyi ve doğrudan anlaşılabilir kararlar üretmeyi amaçlar.

Açıklamaların Hukuki Yeterliliğinin Değerlendirilmesi

Teknolojik olarak geliştirilen bu metotların, veri koruma hukuku bağlamında beklenen şeffaflık ihtiyacını ne ölçüde karşıladığının denetlenmesi gerekmektedir. Bir açıklamanın hukuken tatmin edici kabul edilebilmesi için anlaşılabilirlik, doğruluk, detaylılık, bütünlük ve tutarlılık gibi çeşitli kriterleri barındırması aranmaktadır. Anlaşılabilirlik, sunulan bilginin ortalama bir insan veya hedef kitle tarafından teknik uzmanlık gerektirmeden kavranabilmesini hedeflerken; doğruluk kriteri açıklamanın modelin gerçek yapısına ne kadar sadık kaldığını ölçer. Bilişim hukuku uygulamalarında veri sorumluları, sadece teknik bir çıktı üretmekle kalmamalı, bu açıklamaların veri süjeleri nezdinde gerçekten bir açıklama hakkı tatmini yaratıp yaratmadığını insan temelli değerlendirme testleri aracılığıyla kanıtlayabilmelidir. Sonuç olarak hukuki düzenlemeler, teknolojik çözümlerin sadece var olmasını değil, aynı zamanda bireylerin hak arama hürriyetlerine fiilen hizmet etmesini emretmektedir.