Bloomberg’in haberine göre,2 Nvidia çalışanı 3 yıl önce, CEO Jensen Huang’ı yapay zekanın azınlıklara zararlı olabileceği konusunda uyardı ve cevabından sonra bir tanesi istifa etti.
Nvidia çalışanları Masheika Allgood ve Alexander Tsado, şirket çalışanlarının yapay zekanın özellikle azınlıklara yönelik tehlikeleri hakkındaki endişelerini dile getirmek için 2020’de Huang ile buluştuklarını ama toplantıdaki cevaplarından 2’sinin de memnun kalmadıklarını ve Allgood’un kısa bir süre sonra ayrıldığını belirttiler.
Allgood’un “profesyonel hayatımın en yıkıcı 45 dakikası” olarak tanımladığı toplantıda 2 siyahi lider, 1 yıl boyunca gruplarından yapay zeka konusunda topladıkları endişeleri yani yeni teknolojinin öngörülemeyen etkilerinin azınlıklar üzerindeki etkileri iletmişler.
Allgood, otonom araç teknolojisinde kullanılan AI yüz tanıma sistemlerinin azınlıklar için bir tehdit oluşturabileceğine dair endişelerini dile getirdiğini söyledi. Buna karşılık Huang, sürücüsüz araçların yayalar için daha az tehdit oluşturacakları otoyollarda test edilebileceğini söylemiş. Yani ne konuştuğunu anlamamış gözüküyor.
Oysa, Kendi kendine sürüş teknolojisi, San Francisco’da bir Cruise robotaksinin karıştığı tüyler ürpertici kazanın ardından son aylarda daha fazla inceleme altına alındı. Kaza Cruise’un tüm otonom araç filosunu geri çağırmasına neden oldu. Çünkü çocukları ve büyük delikleri tanımlamada zorlukları vardı.
Nvidia’nın eski ürün pazarlama müdürü Tsado ise şöyle dedi;
“Bu araçları geliştiriyoruz ve ama düşünüyorum ki, bu benim işime yaramayacak çünkü ben siyahiyim”
Yapay zeka modellerinin eğitildiği devasa veri kümelerinin çoğunun önyargılı doğası, bazılarının ayrımcı davranışlar gösterdiği anlamına geliyor. 2015 yılında Google’un resim tanıma sistemlerinin Siyah insanları “Goriller” olarak sınıflandırdığının ortaya çıkmasıyla tepkiler yükselmişti. Sonradan Google bu sorunu çözdü.
Teknoloji şirketleri’nin geliştirdiği yapay zeka modellerinin eğitimi için grafik işleme birimleri veya GPU’lar çok önemli. Bu konudaki lider ise Nvidia.
Haberin yayınlanması sonrasında, Nvidia sözcüsü Bloomberg’e, Allgood ve Tsado’nun ayrılmasından bu yana yapay zeka ürünlerini güvenli ve kapsayıcı hale getirmek için önemli çalışmalar yaptıklarını söylemiş. Huang, Bloomberg tarafından görüntülenen dahili e-postalarda Allgood tarafından önerilen bazı tekliflere yeşil ışık yakmış gibi görünüyor ve şirket artık bir Yapay Zeka ve Hukuk Etiği programı kurdu.
Kaynak : 