Yüz tanıma teknolojisi gelişiyor. Bazı ticari yazılımlar artık fotoğraftaki bir kişinin cinsiyetini söyleyebiliyor. Fotoğraftaki kişi beyaz bir erkek olduğunda, yazılım % 99 doğru bilgi veriyor. Ancak, cilt ne kadar koyu olursa, hata o kadar fazla artıyor, hatta koyu tenli kadınlara % 35’e varan hatalar görülüyor.
Bu MIT’den araştırmacı Joy Buolamwini tarafından, farklı ırk ve cinsiyetten insanlar üzerinde yapılan yeni bir çalışmadan çıkan sonuçlar[1]. Buolamwini’nin çalışması gerçek insan resimleri üzerinden yapılan ilk ampirik araştırma [2].
Anlaşılan IBM, Microsoft ve Face++ tarafından geliştirilen yüz tanıma programlarında, “gerçek dünyadaki ön yargılar” yapay zekayı da etkiliyor. Modern yapay zeka yazılımları, yalnızca onu eğitmek için kullanılan veriler kadar akıllıdır.
Buolamwini, 1270 yüz üzerinden araştırma yapmış. Bunlar 3 Afrikalı ülkeden ve 3 Baltık ülkesinden insanlar dahil, 6 farklı cilt tanımlaması ile sınıflandırılmış. Microsoft’un yapay zeka yazılımı koyu tenli kadınlarda % 21 hata yaparken, IBM ve Megvii yazılımı % 35 hata yapmış. Oysa aynı yazılımlar beyaz tenli erkeklerde % 1 hata yapmış.
Buolamwini, araştırma ile ilgili veri setini açık kaynak olarak yayınlamış durumda. Bu çalışmanın başka çalışmalar ve araştırmalar için başlangıç noktası olmasını umuyor.
Yüz Tanıma Sistemleri Henüz Düzenlenmiyor ve Bazı Konularda Sorunlu
Bugün, yüz tanıma yazılımı, şirketler tarafından sosyal medya profil resimlerine dayalı hedeflemeye yardımcı olmak üzere çeşitli şekillerde kullanılıyor. Ancak şirketler yüz tanımayı işe alma, kredi vermek gibi otomatik kararlarda kullanmayı hedefliyor. Yeni çalışma aynı zamanda yapay zekanın ileride ne tür sorunlar çıkarabileceğini de gösteriyor.
Georgetown Hukuk Fakültesindeki araştırmacılar, 117 milyon Amerikalı yetişkinin, kolluk kuvvetleri tarafından kullanılan yüz tanıma ağlarında olduğunu ve Afrika kökenli Amerikalıların büyük olasılıkla, soygun veritabanlarında orantısız bir şekilde temsil edildikleri için seçilebileceğini tahmin ediyorlar. 2015 yılında Google, Afrika orijinli Amerikalıları “goril” şeklinde etiketleyen yüz tanıma sistemi için özür dilemişti.
Şimdilik yüz tanımanın hedef olduğu hukuki düzenleme de fazla bulunmuyor. Buolamwini buna cevap olarak Algoritmik Adalet Birliği’ni (Algorithmic Justice League) kurdu.
[1] Joy Buolamwini: How Does Facial Recognition Software See Skin Color?
[2] Study finds gender and skin-type bias in commercial artificial-intelligence systems
Kaynak : 