Yapay Zeka ve Büyük Veri Çağında Mahremiyet

Bilişim teknolojilerinin hızla ilerlemesiyle birlikte ortaya çıkan büyük veri ve yapay zeka kavramları, hukukun ve özellikle bilişim hukukunun en önemli tartışma alanlarından biri haline gelmiştir. İnternet ve akıllı cihazlar üzerinden her saniye üretilen yüksek hızlı, çok formatlı ve devasa hacimli veriler, geleneksel veri işleme yöntemleriyle analiz edilemeyecek bir boyuta ulaşmıştır. Bu noktada devreye giren makine öğrenmesi algoritmaları, yığınlar halindeki veri kümeleri içerisinden anlamlı sonuçlar ve daha önce bilinmeyen yeni örüntüler çıkarmaktadır. Bilişim hukuku perspektifinden bakıldığında, bu teknolojik kapasite kişisel verilerin, bilhassa da hassas nitelikteki kişisel sağlık verilerinin korunması bağlamında yepyeni riskler doğurmaktadır. Bir bireyin sağlık durumunu veya yaşam tarzını analiz edebilen algoritmalar, klasik hukuki koruma kalkanlarını aşabilmektedir. Bu nedenle yapay zeka temelli sistemlerin veri işleme süreçleri, veri mahremiyetini güvence altına alacak şekilde tasarımdan itibaren gizlilik prensibiyle kurgulanmalı ve kişilerin haklarını ihlal etmeyecek bir hukuki denetim mekanizmasına tabi tutulmalıdır.

Veri Madenciliği ve Anonimleştirme Çıkmazı

Büyük boyutlardaki veri kümeleri içinden istatistiksel yöntemlerle yeni bilgilerin keşfedilmesini sağlayan veri madenciliği, kişisel verilerin korunması hukukunun temel dinamiklerini zorlamaktadır. Hukukumuzda bir verinin anonim hale getirilmesi, o verinin kimliği belirli veya belirlenebilir bir gerçek kişiyle hiçbir şekilde ilişkilendirilemeyecek duruma getirilmesi olarak tanımlanır. Ancak güncel uygulamalar, yapay zeka ve makine öğrenmesi tekniklerinin, teorik olarak anonimleştirildiği düşünülen sağlık verilerinden dahi yeniden kimlik tespiti yapabildiğini göstermektedir. Avustralya Sağlık Bakanlığı tarafından paylaşılan anonimleştirilmiş hasta harcamaları verilerinden kısa süre içinde gerçek kişilerin kimliklerine ulaşılması bu tehlikenin en somut örneklerindendir. Giyilebilir cihazlardan toplanan verilerin derin sinir ağları tarafından işlenerek kişilerin cinsel yönelimi gibi özel nitelikli kişisel verilerini dahi yüksek doğrulukla tahmin edebilmesi, veri madenciliğinin mahremiyet üzerindeki yıkıcı etkisini gözler önüne sermektedir.

Kara Kutu Problemi ve Profilleme

Yapay zekanın kendi kendine öğrenme yeteneği, elde edilen karar mekanizmalarının nasıl çalıştığının insanlar tarafından anlaşılamaması sorununu doğurmaktadır. Literatürde kara kutu problemi olarak adlandırılan bu durum, kişisel verilerin işlenmesinde şeffaflık ilkesini ve veri sorumlusunun aydınlatma yükümlülüğünü derinden sarsmaktadır. Bireyler, sağlık verileri üzerinden oluşturulan bir profil neticesinde hayatlarını doğrudan etkileyen bir karara maruz kaldıklarında, bu kararın arkasındaki algoritmik mantığı kavrayamamakta ve hakkını aramakta zorlanmaktadır. Özellikle sigorta şirketlerinin hastalık riski taşıyan kişileri tespit etmek amacıyla kullandığı yapay zeka algoritmaları, önceden belirlenmesi imkansız veriler üzerinden profil çıkarma işlemi gerçekleştirmektedir. Bu aşamada ilgili kişinin temel hak ve özgürlüklerini güvence altına alabilmek adına, otomatik bireysel kararların insan denetiminden geçirilmeden uygulanmasının engellenmesi mutlak bir hukuki zorunluluk olarak öne çıkmaktadır.

Algoritmik Ayrımcılık ve Sorumluluk Rejimi

Makine öğrenmesi algoritmaları, tasarlandıkları kod ve beslendikleri veri setleri üzerinden hareket ettikleri için, toplumdaki önyargıları yeniden üreterek algoritmik ayrımcılık vakalarına yol açabilmektedir. Amazon örneğinde olduğu gibi, işe alım sürecinde kadın adaylar aleyhine ayrımcılık yapan yazılımlar bu duruma işaret etmektedir. Bilişim hukuku uzmanları açısından, otomatik sistemlerin sebep olduğu zararların tazmini çok boyutlu bir hukuki inceleme gerektirir. Yapay zekanın sebep olabileceği ihlaller neticesinde hukukumuzda dikkate alınması gereken temel faktörler şunlardır:

• Tasarım veya veriden kaynaklanan hatalar sonucunda doğan maddi ve manevi zararların tespit edilmesi.
• Veri öznesi ile işletme arasında sözleşme bulunsa dahi, sürecin haksız fiil sorumluluğu kapsamında değerlendirilmesi.
• Zarar ile algoritmanın eylemi arasındaki illiyet bağının ispat zorluklarının aşılması.
• Avrupa Parlamentosu kararlarında tartışılan yapay zekaya hukuki kişilik tanınması ve sorumluluk atıfları.

Bu çerçevede veri sorumlusu işletmelerin organizasyon sorumluluğuna gidilmesi, zarar gören kişilerin hak arama hürriyetini kullanabilmeleri açısından hayati bir işlev görmektedir.