Kasım 2022’den bu yana heyecanlı bir “yapay zeka” dönemi başlarken, risklere işaret edenler de çok fazla. Geçen yıl OpenAI CEO’su Sam Altman, o zamanın yönetim kurulu tarafından bu hızlı gidiş nedeniyle işten çıkarılmıştı. O zaman yönetim kurulunda “yapay zeka ve etik” dalında çalışanlar vardı. Arkasından bilindiği gibi Altman geri döndü. O yönetim kurulu üyeleri ise uçtu.
Bu süreçte, Altman’ın geri dönüşü ile birlikte, uzun vadeli yapay zeka riskleri için bir “Superalignment” bölümü kurulmuştu. Bölüm, bizden çok daha zeki hale gelecek olan yapay zeka sistemlerini kontrol etmek için bilimsel ve teknolojik çalışmalara odaklanmıştı. O dönemde OpenAI, dört yıl boyunca bilgi işlem gücünün %20’sini bu bölüme ayıracağını açıklamıştı. Şimdi 1 yıl sonra OpenAI’ın bu grubu iptal ettiği ve çalışanları dağıttığı bildiriliyor.
İlginçtir, 3 gün önce de OpenAI kurucu ortağı (ve Altman’ı işten atan eski yönetim kurulunda yer alan) Ilya Sutskever ve Jan Leike işten ayrıldı. Sutskever bir açıklama yapmadı ama Leike şöyle yazdı :
“Katıldım çünkü OpenAI’nin bu araştırmayı yapmak için dünyadaki en iyi yer olacağını düşündüm. Ancak, sonunda bir kırılma noktasına ulaşana kadar, şirketin temel öncelikleri konusunda OpenAI liderliğiyle uzun süredir aynı fikirde değildim.
Leike, şirketin bant genişliğinin çok daha fazlasının güvenlik, izleme, hazırlık, güvenlik ve toplumsal etkiye odaklanması gerektiğine inandığını yazdı.
“Bu sorunları düzeltmek oldukça zor ve oraya ulaşacak bir yolda olmadığımızdan endişeleniyorum. Son birkaç aydır ekibim rüzgara karşı yelken açıyor. Bazen bilgi işlem kaynakları için mücadele ediyorduk ve bu önemli araştırmayı yapmak giderek zorlaşıyordu.”
“İnsandan daha akıllı makineler yapmak, doğası gereği tehlikeli bir çabadır. OpenAI tüm insanlık adına çok büyük bir sorumluluk taşıyor. Ancak geçtiğimiz yıllarda güvenlik kültürü ve süreçleri parlak ürünlerin gerisinde kaldı.”
Wall Street Journal ve diğer medya kuruluşları, Sutskever’in yapay zekanın insanlara zarar vermemesini sağlamaya odaklandığını bildirirken, Altman da dahil olmak üzere diğerlerinin bunun yerine yapay zekayı hızla ilerletme konusunda daha istekli olduğunu bildirmesiyle sorun her geçen gün daha karmaşık hale geliyor gibi görünüyor.
Altman, Sutskever’in ayrılışı hakkında şöyle dedi :
“Bu benim için çok üzücü; Ilya kesinlikle neslimizin en büyük beyinlerinden biri, alanımızın yol gösterici ışığı ve sevgili bir dostumuzdur. Onun dehası ve vizyonu çok iyi biliniyor; Onun sıcaklığı ve şefkati daha az biliniyor ama daha az önemli değil.”
Altman, Sutskever’in yerini, 2017’den beri OpenAI’de bulunan araştırma direktörü olan Jakub Pachocki’nin alacağını söyledi.
Sutskever ve Leike’nin ayrılması ve süper hizalama ekibinin dağılmasıyla ilgili haberler, OpenAI’nin yeni bir AI modeli ve ChatGPT’nin masaüstü sürümünün yanı sıra şirketin popüler chatbot’unun kullanımını genişletmeye yönelik en son çabası olan güncellenmiş bir kullanıcı arayüzü piyasaya sürmesinden birkaç gün sonra geldi.
Kaynak : 