Soru & Cevap
Bir çeviri programı mesleğimi İngilizceye çevirirken cinsiyetçi bir kelime tercih etti. Yapay zekanın kullandığımız dildeki cinsiyet ön yargılarını yansıtması yasal olarak engellenebilir mi?
Doğal dil işleme ve metin analizi yapan yapay zeka araçlarının, toplumdaki mevcut ön yargıları kopyalayarak cinsiyet temelinde ayrımcı ve kalıp yargılara dayalı çeviriler yapması hukuken ve etik olarak mücadele edilebilir bir alandır. Çeviri algoritmalarının cinsiyetsiz dillerden İngilizceye çeviri yaparken, örneğin hemşireliği otomatik olarak kadınlara, doktorluğu ise erkeklere atfetmesi, eğitim verilerinin ön yargılı olmasından kaynaklanan sistematik bir hatadır. Uluslararası metinler ve ayrımcılık yasağı ilkeleri çerçevesinde, algoritmik sistemlerin temel insan haklarına ve eşitlik ilkesine saygı gösterecek şekilde tasarlanması gerektiği vurgulanmaktadır. Bu tür bir algoritmik ön yargı, doğrudan somut bir maddi zarar doğurmasa bile, cinsiyetçi klişeleri pekiştirdiği için teknoloji şirketlerinin yasal denetim kurumları tarafından uyarılması ve algoritmik sistemlerin şeffaflık ilkelerine uygun revize edilmesi yönünde talepte bulunulabilecek bir durumdur.