Yapay zeka programları da kadınlara ayrımcılık yapıyor

Tüm dünyada yapay zekanın insanların işlerini elinden elip almayacağına dair endişe sürerken, Amazon adlı şirketin kullandığı yapay zeka ürünlerinin kadınlara yönelik ayrımcılık yaptığı ortaya çıktı.

Yapay zekanın başta tıp olmak üzere birçok alanda insan hayatını ‘kolaylaştırmayı’ amaçlayan çalışmalar dünya genelinde devam ediyor. Ancak gelecekte bugün insanlarca yapılan işleri de yapabilecek düzeye ulaşması halinde endişeyle bakılan yapay zeka ürünü bazı çalışmalar, ileride yaşanacak haksızlık ve yanlışlıkların işareti gibi.

Birçok ülkede haksız rekabet ve vergi yasalarını by-pass etmesiyle eleştiri alan Amazon adlı online satış şirketinin yaptığı bir yapay zeka projesi ise, kadınları dışlamasıyla gündeme geldi.

KADINLARA DOĞRUDAN KÖTÜ NOT VERİYORDU

Şirket tarafından 2014 yılında devreye konulan bir sistemle, şirkette işe alınacak bireylerin başvurularının daha hızlı incelenmesi hedefleniyordu. İş başvurularını inceleyen yapay zeka sisteminin 2015 yılında özellikle kadınlar aleyhine ciddi haksızlıklar yaptığı ortaya çıktı.

Sisteme yüklenen özgeçmişlerin (CV) en iyisini seçmeye göre kurgulanan yapay zeka ürününün 100 CV’den en iyi 5’ini seçmesi gerekiyordu. Ancak sistemin özellikle bilişim uzmanlığı gibi teknik yetenek isteyen görevlerde kadınların CV’lerine çok düşük not verdiği anlaşıldı.

Amazon içerisinden bir kaynağın Reuters’e verdiği bilgilere göre, benzer eğitimler alan kadın ve erkekler arasında erkeklere daha iyi not veriliyordu. Reuters’e göre, şirketin 2005 yılından sonraki yapılan başvurularında bilişimsel görevlere daha çok erkeklerin olması nedeniyle yapay zeka ürünü program da bu şekilde geliştirildi. Böylelikle kadınlar tarafından yapılan başvurular eksik not alıyordu.

‘KADIN’ TERİMİNİN GEÇMESİ KÖTÜ NOTA YETİYORDU

Yapay zeka programının kadınların CV’lerinde feminin terimleri doğrudan elediği ve düşük not verdiği kaydedilen Reuters haberinde, “kadın”, “feminin” veya “Kadın santranç kulübü başkanlığı” ifadesinin yer aldığı CV örneklerine değinildi. Bu tür CV’ler doğrudan elenecek şekilde düşük not alıyordu.

SESSİZ SEDASIZ SONLANDIRILDI

Amazon şirketinin kamuoyundan gizli tuttuğu bu denemenin daha başka kesimleri dışlayacak nitelikte olabileceği için geçtiğimiz yıl sessiz sedasız sonlandırıldığı da verilen bilgiler arasında.

Uzmanlar, dünyanın önde gelen birçok şirketinin daha fazla yöneldiği yapay zeka programlarıyla işe alım süreçlerinin güven vermediğine dikkat çekiyorlar.