OpenAI’nin mevcut ve eski çalışanlarından oluşan bir grup, dünyanın önde gelen yapay zeka şirketlerinin teknolojinin oluşturduğu potansiyel risklere karşı gerekli şeffaflık ve hesap verebilirlik konusunda yetersiz kaldığı konusunda uyarıda bulunan açık bir mektup yayınladı.
10 yıl içinde, gelirinin 1 trilyon $’ı aşması beklenen üretken yapay zeka sektöründe, OpenAI, Google, Microsoft, Meta ve önde görünüyor ve birbirleriyle yarışıyorlar. Ama başka firmalar da var arkada. Herkes en hızlı şekilde ürün geliştirmeye çalışıyor.
Mektup, mevcut eşitsizliklerin daha da derinleşmesi, manipülasyon ve yanlış bilgilendirme, otonom yapay zeka sistemlerinin kontrolünün kaybedilmesi ve potansiyel olarak insanlığın yok olmasına yol açmaya kadar uzanan yapay zeka güvenlik risklerine ilişkin ciddi endişeleri dile getirdi.
Aralarında Google DeepMind personelinin de bulunduğu 16 imzacı, yapay zeka şirketlerinin etkili gözetimden kaçınmak için güçlü mali teşviklere sahip olduğu ve şirketlerin kendi öz düzenlemelerinin bunu etkili bir şekilde değiştirmeyeceği konusunda uyardı.
Mektupta, “Yapay zeka şirketleri, sistemlerinin yetenekleri ve sınırlamaları, koruyucu önlemlerinin yeterliliği ve farklı türdeki zararların risk seviyeleri hakkında kamuya açık olmayan önemli bilgilere sahiptir” ve “Ancak şu anda bu bilgilerin bir kısmını hükümetlerle paylaşma konusunda zayıf yükümlülüklere sahipler, ama hiçbirini sivil halkla paylaşmıyorlar. Bu bilgileri gönüllü olarak paylaşma konusunda bu şirketlere güvenilebileceğini düşünmüyoruz.”
Mektup, bu gerçeğin, kamuoyunu bilgilendirebilecek kişilerin şirket içindeki çalışanlar olduğu anlamına geldiğini ve imzacıların kendilerini korumak için daha geniş ihbar yasaları talep ettiğini ekledi. Mektupta, “Geniş gizlilik anlaşmaları, bu sorunları çözemeyen şirketler dışında endişelerimizi dile getirmemizi engelliyor” denildi.
The New York Times’ın haberine göre OpenAI’nin mevcut dört çalışanı, şirketin misillemesinden korktukları için mektubu isimsiz olarak imzaladı. Ayrıca, genellikle yapay zekanın “vaftiz babaları” olarak tanımlanan ve yapay zekanın tehlikelerine karşı hazırlık eksikliğini eleştiren Yoshua Bengio, Geoffrey Hinton ve Stuart Russell tarafından da imzalandı. OpenAI yaptığı açıklamada eleştiriyi reddetti.
Açıklamada, “En yetenekli ve en güvenli yapay zeka sistemlerini sağlama konusundaki geçmiş performansımızdan gurur duyuyoruz ve riskleri ele alma konusundaki bilimsel yaklaşımımıza inanıyoruz. Bu teknolojinin önemi göz önüne alındığında, sıkı tartışmaların hayati önem taşıdığı konusunda hemfikiriz ve dünya çapındaki hükümetler, sivil toplum ve diğer topluluklarla iletişim kurmaya devam edeceğiz.” denildi.
OpenAI ayrıca “çalışanların endişelerini ifade edebilecekleri anonim bir dürüstlük hattı da dahil olmak üzere çeşitli yollara” sahip olduğunu ve CEO Sam Altman da dahil olmak üzere yönetim kurulu üyeleri ve yöneticiler tarafından yönetilen yeni oluşturulmuş bir Emniyet ve Güvenlik Komitesi’nin bulunduğunu söyledi.
Kaynak : 