Makale

Gelişen teknolojiyle birlikte hayatımızın her alanında yer alan yapay zekâ uygulamaları, karar alma süreçlerindeki etkisiyle eşitlik ilkesi ve ayrımcılık yasağı açısından yepyeni hukuki tartışmaları beraberinde getirmiştir. Uluslararası sözleşmelerle güvence altına alınan insan hakları, teknolojik sistemlerin özerk yapısı karşısında ciddi risk altındadır. Bu sistemlerin şeffaf olmayan kara kutu yapısı, insan müdahalesi olmaksızın üretilen kararların denetlenmesini zorlaştırarak doğrudan veya dolaylı ayrımcılığa zemin hazırlayabilmektedir. Bu tehditlerin önüne geçebilmek adına ulusal ve uluslararası arenada bilişim hukuku ekseninde yeni normlar ihdas edilmektedir. Mevcut hukuk düzeninde yapay zekâ kaynaklı ayrımcılık vakalarını engellemeyi amaçlayan yasal rejim; Avrupa Konseyi, Avrupa Birliği organları ve uluslararası insan hakları metinleri etrafında şekillenmektedir. Öncelikli hedef, bireylerin ırk, cinsiyet, din veya diğer temel özelliklerine dayalı olarak algoritmalar tarafından ayrımcı muameleye tabi tutulmasını önlemek ve teknolojik ilerlemeyi insan odaklı bir hukuki güvence altına almaktır.

AİHS Kapsamında Ayrımcılık Yasağı ve Yargısal Koruma

Avrupa İnsan Hakları Sözleşmesi’nin (AİHS) 14'üncü maddesi, bireylerin hak ve özgürlüklerden yararlanırken cinsiyet, ırk, renk, din veya felsefi inanç gibi temellere dayalı olarak ayrımcılığa uğramasını kesin bir biçimde yasaklamaktadır. Bu sözleşme ve onu tamamlayan Ek 12 No'lu Protokol, sadece doğrudan ayrımcılığı değil, görünüşte tarafsız olan ancak belirli bir grubu orantısız şekilde olumsuz etkileyen dolaylı ayrımcılık durumlarını da kapsamaktadır. Yapay zekâ sistemleri, iç işleyişlerinin karmaşıklığı ve ticari sırlar nedeniyle genellikle şeffaflıktan uzaktır. Bu durum, algoritmaların ürettiği ayrımcı sonuçların tespit edilmesini ve yargı mercileri önünde ispatlanmasını oldukça güçleştirmektedir. Avrupa İnsan Hakları Mahkemesi (AİHM) kararları ışığında sözleşmenin getirdiği geniş koruma ağı, algoritmik ayrımcılık vakalarının yargısal denetimi için hukuki bir dayanak sunmaktadır. Etkili bir koruma için devletlerin iç hukuklarında bu uluslararası normları destekleyecek şeffaflık önlemleri almaları büyük önem taşımaktadır.

Avrupa Birliği Yapay Zekâ Yasası ile Gelen Sıkı Denetim

Avrupa Birliği tarafından hayata geçirilen Yapay Zekâ Yasası (AI Act), yapay zekâ sistemlerinin piyasaya arzı ve kullanımına ilişkin temel kuralları risk temelli bir yaklaşımla belirleyen devrim niteliğinde bir mevzuattır. Tüzük, yapay zekâ uygulamalarını barındırdıkları tehlike potansiyeline göre sınıflandırmakta ve temel insan haklarına zarar verme ihtimali yüksek olan sistemleri katı denetimlere tabi tutmaktadır. Özellikle biyometrik tanımlama, eğitim, istihdam, kredi değerlendirmesi ve yargı süreçlerinde kullanılan sistemler yüksek riskli yapay zekâ uygulamaları olarak kategorize edilmiştir. Yüksek riskli sistemlerin piyasaya sürülmeden önce şeffaflık yükümlülüklerine uyması, temel haklar ve çevresel etki analizi testlerinden geçmesi zorunlu kılınmıştır. İnsan onurunu zedeleyen veya bilinçaltı tekniklerle manipülasyon yapan belirli yapay zekâ sistemleri ise tamamen yasaklanmıştır. Bu hukuki rejim, yapay zekâ teknolojilerinin eşitlik ilkesini zedelemesini baştan önlemeyi amaçlamakta ve geliştiricilere ayrımcılık riskini minimize etme yükümlülüğü getirmektedir.

Kişisel Verilerin Korunması ve Otomatik Karar Alma Süreçleri

Veri koruma hukuku, algoritmik ayrımcılığı önlemede en kritik yasal kalkanlardan birini oluşturur. Avrupa Genel Veri Koruma Tüzüğü (GDPR) ve Avrupa Konseyi’nin 108 No'lu Sözleşmesi, bireylerin kişisel verilerinin hukuka uygun, adil ve şeffaf bir şekilde işlenmesini şart koşmaktadır. GDPR’nin 22'nci maddesi, veri sahibinin yalnızca otomatik işlemeye veya profil oluşturmaya dayanan ve kendisi hakkında hukuki sonuçlar doğuran kararlara tabi olmama hakkını güvence altına alır. Bu düzenleme, tam otomatik kredi derecelendirme veya işe alım algoritmaları gibi sistemlerin bireyler üzerinde keyfi ve ayrımcı sonuçlar doğurmasını engellemeyi hedefler. Veri işleyicilerin, yüksek risk taşıyan projelerde Veri Koruma Etki Değerlendirmesi yapmaları zorunludur. Bu sayede, yapay zekânın geliştirilmesinde ortaya çıkabilecek ayrımcılık riskleri önceden tespit edilerek gerekli hukuki tedbirler alınabilmektedir.

Dijital Hizmetler Yasası'nın Şeffaflık Standartları

Dijital ortamda sunulan hizmetlerin düzenlenmesi amacıyla Avrupa Birliği tarafından kabul edilen Dijital Hizmetler Yasası (DSA), çevrim içi platformların içerik yönetimi ve algoritmik sistemleri üzerinde ciddi yükümlülükler öngörmektedir. Tüzük, nefret söylemi ve ayrımcı içerikleri de kapsayan hukuka aykırı içeriklerin denetlenmesini ve platformların bu içeriklerden sorumlu tutulmasını sağlamaktadır. Çok büyük çevrim içi platformlar (VLOPs), toplumu etkileme güçleri nedeniyle daha sıkı algoritma şeffaflığı ve risk yönetimi kurallarına uymak zorundadır. DSA, dijital platformların algoritmalarının adil, şeffaf ve her türlü ayrımcılıktan uzak çalışmasını temin etmeye odaklanır. Bu yasal rejim, teknoloji devlerinin sadece kendi ticari çıkarlarını değil, toplumun eşitlik ve insan hakları gibi temel değerlerini korumasını mecbur kılarak algoritmik ayrımcılığa karşı güçlü bir bariyer oluşturmaktadır.

Uluslararası İlkeler ve Çerçeve Sözleşmelerin Etkisi

Yapay zekâ destekli ayrımcılığa karşı küresel bir hukuki standart oluşturma çabaları hız kesmeden devam etmektedir. Bu bağlamda, Toronto Bildirgesi, makine öğrenimi sistemlerinin insan haklarına olumsuz etkilerini en aza indirmeyi ve özellikle eşitlik ilkesi ile ayrımcılık yasağını korumayı hedefleyen önemli bir uluslararası referans metnidir. Ekonomik İşbirliği ve Kalkınma Örgütü (OECD) tarafından yayımlanan yapay zekâ ilkeleri, sistemlerin insan odaklı, adil ve şeffaf olmasını tavsiye etmektedir. En bağlayıcı adımlardan biri ise Avrupa Konseyi bünyesinde hazırlanan Yapay Zekâ, İnsan Hakları, Demokrasi ve Hukukun Üstünlüğü Çerçeve Sözleşmesi'dir. İmzaya açılan bu uluslararası sözleşme, yapay zekâ sistemlerinin tüm yaşam döngüsü boyunca insan onuruna saygı göstermesini ve eşitlik hakkını güvence altına almasını devletler açısından hukuki bir zorunluluğa dönüştürmektedir. Taraf devletler, algoritmaların ayrımcı etkilerini değerlendirmek ve önlemekle yükümlü tutulmaktadır.

Yapay Zekâda Ayrımcılığı Engelleyen Temel Hukuki Araçlar

Mevcut hukuk düzeninde teknolojik sistemlerin özerk yapısından kaynaklanan ayrımcılık risklerini sınırlandırmak amacıyla çeşitli hukuki araçlar ve metinler yürürlüğe konulmuştur. Bu yasal belgeler, bireylerin dijital dünyada adil muamele görmesini güvence altına almaktadır:

• Avrupa İnsan Hakları Sözleşmesi (AİHS): Doğrudan ve dolaylı ayrımcılığı yasaklayarak ihlallerin yargısal denetimine imkân tanır.
• AB Yapay Zekâ Yasası: Risk temelli sınıflandırma yaparak temel haklara tehdit oluşturan sistemleri katı şeffaflık testlerine tabi tutar.
• Genel Veri Koruma Tüzüğü (GDPR): Kişisel verilerin işlenmesinde rızayı ve tam otomatik kararlara tabi olmama hakkını merkeze alır.
• Dijital Hizmetler Yasası (DSA): Büyük çevrim içi platformların algoritmik süreçlerini ve ayrımcı içerik yönetimini denetler.
• Avrupa Konseyi Çerçeve Sözleşmesi: Yapay zekânın tüm döngüsünde insan onurunu, demokrasiyi ve hukukun üstünlüğünü bağlayıcı şekilde korur.