Makale

Teknolojinin hızla gelişmesiyle birlikte üretken yapay zekâ sistemleri, sağlık, finans, eğitim gibi hayatın pek çok alanında geniş bir kullanım alanı bulmuştur. Ancak bu sistemlerin devasa boyutlarda veri ile beslenmesi, kişisel verilerin korunması ve veri mahremiyeti hususlarında çeşitli hukuki zorlukları da beraberinde getirmektedir. KVKK ve GDPR gibi yasal düzenlemeler, veri işleme faaliyetlerinde bireylerin temel hak ve özgürlüklerini güvence altına almayı hedefler. Üretken yapay zekânın hukuka uygun şekilde veri işlemesi, sadece yasal zorunlulukların yerine getirilmesini değil, aynı zamanda kullanıcıların bu sistemlere olan güvenini sağlamak açısından da büyük önem taşır. Özellikle kişisel veri işleme ilkeleri, yapay zekâ sistemlerinin veri toplama, işleme ve muhafaza etme süreçlerinde şeffaflığı ve hesap verilebilirliği artırmak için bir temel oluşturur. Bu bağlamda, yapay zekâ uygulamalarının tasarım aşamasından itibaren veri koruma standartlarına ve yasal düzenlemelere sıkı sıkıya uyması gerekmektedir.

Hukuka ve Dürüstlük Kuralına Uygunluk

Kişisel verilerin işlenmesinde en temel prensiplerin başında hukuka ve dürüstlük kurallarına uygun olma ilkesi gelmektedir. Bu ilke, veri işleme faaliyetlerinin sadece mevcut mevzuata değil, aynı zamanda evrensel hukuk ilkelerine, ahlaki değerlere ve toplumsal kurallara uygun olarak yürütülmesini emreder. Dürüstlük kuralı, veri sorumlusuna veri sahiplerinin menfaatlerini ve makul beklentilerini göz önünde bulundurarak şeffaf ve hesap verilebilir bir biçimde hareket etme yükümlülüğü yükler. Üretken yapay zekâ sistemleri bağlamında bu durum, kullanıcıların onayını aşan gizli veri erişimlerinden kaçınılmasını gerektirir. Örneğin, bir kullanıcının sadece belirli bir hizmet için verdiği rızanın aşılarak, arka planda çalışan algoritmalar vasıtasıyla daha geniş kapsamlı ve kullanıcının makul beklentilerini aşan bir veri işleme faaliyetine girişilmesi dürüstlük ilkesinin açık bir ihlalidir. Bu nedenle, yapay zekâ geliştiricilerinin veri koruma mevzuatının ruhuna uygun olarak, kişilerin özel hayatının gizliliğine saygı duyan sistemler tasarlamaları hukuki bir zorunluluktur.

Belirli, Açık ve Meşru Amaçla Veri İşleme

Belirli, açık ve meşru amaçla veri toplama ilkesi, veri sorumlusunun kişisel verilerin hangi amaçlarla işleneceğini net ve anlaşılır bir biçimde ortaya koymasını gerektirir. Yapay zekâ sistemleri tarafından işlenen verilerin amacı, kişisel verileri koruma mevzuatı kapsamında hukuka uygun ve meşru olmalıdır. Gelecekteki olası kullanımlar için veya pazarlama maksatlı gibi muğlak ifadelerle genel nitelikte veri toplanması, hukuken geçerli kabul edilmemektedir. Özellikle makine öğrenmesi süreçlerinde karşılaşılan kara kutu problemi, yapay zekânın karar alma süreçlerinin dışarıdan izlenememesine ve verilerin asıl toplanma amacı dışında, öngörülemeyen farklı sonuçlar üretmek için kullanılmasına yol açabilmektedir. Bu durum, veri sahiplerinin verilerinin nasıl kullanıldığı konusunda tam ve bilinçli bir onay vermelerini güçleştirmektedir. Bu hukuki sorunun aşılabilmesi için, yapay zekâ sistemlerinin açıklanabilir yapay zekâ (XAI) modelleriyle şeffaf hale getirilmesi ve veri işleme amaçlarının en baştan kesin sınırlarla çizilmesi büyük önem taşımaktadır.

Amaca Bağlantılı, Sınırlı ve Ölçülü Olma

Kişisel verilerin işlenmesinde amaca bağlantılı, sınırlı ve ölçülü olma ilkesi, aynı zamanda veri minimizasyonu olarak da adlandırılır. Bu ilke, sadece belirlenen amacın gerçekleştirilmesi için zorunlu olan kişisel verilerin işlenmesini ve bu amaçla ilgisi bulunmayan verilerin toplanmasından kaçınılmasını emreder. Üretken yapay zekâ sistemlerinin doğası gereği devasa boyutlardaki verilerle beslenerek kendini eğitmesi, veri minimizasyonu prensibi ile doğrudan bir çatışma yaratabilmektedir. Yapay zekânın sürekli öğrenme kapasitesi, başlangıçta öngörülmeyen ve bireylerin temel haklarına müdahale edebilecek boyutlarda veri işlenmesi riskini barındırır.

Bu kapsamda, yapay zekâ sistemlerinin ölçülülük prensibine uygunluğunu sağlamak adına şu adımlar atılmalıdır:

• İşleme amacı için kişisel veri kullanılmasının zorunlu olup olmadığının titizlikle değerlendirilmesi.
• Gerçek veriler yerine kişisel verilerle doğrudan eşleşmeyen sentetik veri setlerinin kullanılması.
• Kullanılacak veri miktarının mümkün olan en düşük seviyeye indirilerek veri gizliliğinin sisteme otomatik olarak entegre edilmesi.

Bu hukuki gereklilikler, teknolojinin dinamik yapısına rağmen bireylerin mahremiyet haklarının güvence altına alınması açısından vazgeçilmezdir.

Verilerin Doğru ve Güncel Tutulması ile Muhafaza Süresi

İlgili kişilerin hukuki menfaatlerinin zedelenmemesi adına, işlenen kişisel verilerin doğru ve gerektiğinde güncel tutulması esastır. Üretken yapay zekânın internet üzerinden elde ettiği geniş ve bazen kontrolsüz veri setleriyle eğitilmesi, hatalı, spekülatif veya güncelliğini yitirmiş bilgilerin işlenmesi riskini doğurur. Bu tür yanlış verilerle eğitilen bir yapay zekâ, kişiler hakkında haksız, ayrımcı veya tamamen kurgusal çıktılar üretebilir. Bu durum, veri sahibinin verilerinin düzeltilmesini talep etme hakkı ile yakından ilişkilidir ve veri sorumlularına ciddi bir denetim yükümlülüğü getirir. Öte yandan, gerektiğinden uzun süre tutulmama ilkesi uyarınca, işleme amacı ortadan kalkan verilerin derhal silinmesi, yok edilmesi veya anonim hale getirilmesi şarttır. Yapay zekâ sistemlerinin performans düşüklüğü yaşama endişesiyle verileri süresiz olarak muhafaza etmesi, AYM Perspektifiyle)">AYM Perspektifiyle)">unutulma hakkı ve yasal saklama süreleri ile açıkça çelişmektedir. Veri sorumluları, hukuki uyuşmazlıkların önüne geçmek için yapay zekâ sistemlerini periyodik veri imha işlemlerini otomatik gerçekleştirecek şekilde programlamalıdır.