Soru & Cevap
Sattığım yapay zeka programı kendi kendine öğrenip değişerek kimsenin beklemediği bir zarara yol açtı. Üretici olarak ben bu belirsiz durumdan nasıl sorumlu tutulabilirim?
Kendi kendine öğrenebilen ve öngörülemeyen kararlar alabilen yeni nesil yapay zeka sistemlerinin neden olduğu zararlarda üreticilerin sorumluluğu, klasik kusur prensiplerinin ötesinde özel bir katı sorumluluk rejimine tabi olma potansiyeli taşımaktadır. Derin öğrenme kabiliyetine sahip bu sistemler başlangıçta hata barındırmasa bile, sonradan topladığı verilerle kendisini geliştirerek beklenmedik davranışlar sergileyebilmektedir. Gelişen uluslararası içtihatlar ve Avrupa Parlamentosu taslak kararları ışığında, yapay zekanın bu derece otonom bir faaliyetinden zarar doğması halinde, zararın öngörülemezliği savunması üreticiyi tamamen kurtarmaya yetmeyecektir. Bu nedenle, yapay zekayı piyasaya süren kişi veya şirket olarak sizin, oluşan zararı kusursuz sorumluluk kuralları çerçevesinde gidermek zorunda kalmanız ihtimal dahilinde olup, bu tür ağır riskler için yasal olarak zorunlu sorumluluk sigortası yaptırmanızın ileride gerekli hale gelmesi kuvvetle muhtemeldir.