Twitter, geçen yıl ortaya çıkan bir algoritma hatasının düzeltilmesi için yarışma açtı. 500 ila 3.500 dolar arasında değişen ödüllü yarışmada, görsel kırpma algoritmasının önyargılı çalışmasının giderilmesi isteniyor. Twitter META direktörü Rumman Chowdhury, şirketin algoritmayı değiştirmeye karar verdiğini açıkladı ve Twitter gibi şirketlerin genellikle “İstenmeyen etik zararları kamudan öğrendiklerini” itiraf etti.
Cuma günü, Chowdhury ve Twitter META ürün müdürü Jutta Williams, bu yılki DEF CON AI Köyü’nün bir parçası olduğunu söyledikleri algoritmik önyargı ödül yarışmasını açıkladılar. [1].
Başvuru için HackerOne’da bir form bulunuyor[2]. Birinci olana 3500$, ikinciye 1000$ ve üçüncüye 500$ ödül verilecek. Ayrıca, en yenilikçi ve en genelleştirilebilir için 1.000 $ ödül olacak. Yarışmanın kazananları 8 Ağustos’ta DEF CON AI Village atölyesinde açıklanacak. Başvuruların Ariel Herbert-Voss, Matt Mitchell, Peiter “Mudge” Zatko ve Patrick Hall tarafından değerlendirileceği kaydediliyor.
Görsel Kırpma Algoritması Siyahlara ve Kadınlara Karşı Ön Yargılı
Geçen yıl bir çok Twitter kullanıcısı bu durumu resimlerle ortaya koymuştu. Bunlardan birisini yanda görüyorsunuz. Bu tepkiler büyüdü ve mayıs ayında Twitter otomatik kırpma algoritmasının, görsel kırpmada “Siyah yüzler”e karşı önyargı taşıdığını itiraf etti[3].
Ayrıca Twitter’dan yapılan araştırmaya göre, algoritma erkekleri kadınlara tercih ediyor.
Twitter META direktörü Rumman Chowdhury şöyle dedi :
“Mayıs ayında, belirginlik algoritmamızdaki (görüntü kırpma algoritmamız olarak da bilinir) yanlılığı belirleme yaklaşımımızı paylaştık ve kodumuzu başkalarının çalışmamızı yeniden üretmesi için kullanıma sunduk. Bu çalışmayı bir adım daha ileri götürmek istiyoruz. Topluluğu, bu algoritmanın kendimizi tanımladığımızın ötesinde potansiyel zararlarını belirlemeye yardımcı olmaya teşvik etmek istiyoruz.”
Programı oluştururken, araştırma ve hacker topluluklarının, halkı korumak için güvenlik açıklarını belirlemek ve azaltmak için güvenlik alanının en iyi uygulamaları oluşturmasına yardımcı olduklarını gözönüne aldılar ve Twitter’ın benzer bir topluluk oluşturmak istediğini açıkladılar.
Twitter META ürün müdürü Jutta Williams, teknolojilerinin nasıl düzeltilebileceği ve zararı nasıl daha iyi önleyebilecekleri hakkında daha fazla bilgi edinmeyi umduklarını belirtirken, makine öğrenimi yanlılığı üzerine ortaya çıkan çalışma alanında pek çok bilinmeyen olduğunu ve az sayıda programın algoritmik riskleri aktif olarak ele aldığını belirtti.
[1] Introducing Twitter’s first algorithmic bias bounty challenge
[2] Sharing learnings about our image cropping algorithm
Kaynak : 