Cuma günü OPenAI’ın 1 sene önceki karmaşa sonrasında kurulan “Gelecek Riskleri Araştırma Birimi” olan SuperAlignment bölümünün kapatılmasını yazmıştık. Ilya Sutskever ve Jan Leike istifa etmişti. OpenAI’ın kurucu ortağı ve istifadan önce baş bilim insanı olan Sutskever açıklama yapmasa da, Leike X.com üzerinden bir mesaj yayınlamıştı. Bu meseja OpenAI CEO’su Sam Altman ve Greg Brockman cevap yayınladı.
2 yönetici, OpenAI’nin “çok sıkı bir geri bildirim döngüsü, sıkı testler, her adımda dikkatli değerlendirme, birinci sınıf güvenlik ve güvenlik özelliklerinin uyumu” kullanmaya kararlı olduğunu ve farklı zaman aralıklarını hedef alan daha fazla güvenlik araştırması gerçekleştirileceğini ve güvenlikle ilgili hiçbir şeyin gözden kaçırılmadığından emin olmak için hükümetler ve paydaşlarla işbirliği yapılacağını söyledi.
Jan Leike, Ilya Sutskever ile birlikte, süper akıllı yapay zekaları kontrol etmenin yollarını bulmak amacıyla bir yıldan kısa bir süre önce kurulan, SuperAligment ekibine liderlik ediyordu. Her iki adam da, güvenliğin firmada yeni gelişmeler lehine arka plana itildiğini söyleyerek istifa ettiler. Leike şöyle demişti;
“Katıldım çünkü OpenAI’nin bu araştırmayı yapmak için dünyadaki en iyi yer olacağını düşündüm. Ancak, sonunda bir kırılma noktasına ulaşana kadar, şirketin temel öncelikleri konusunda OpenAI liderliğiyle uzun süredir aynı fikirde değildim.”
Ayrılmalarının arkasından OpenAI’nin açıklaması şöyleydi;
“AGI’ye giden yolda nasıl ilerleneceğine dair kanıtlanmış bir taktik kitabı yok. Ampirik anlayışın ileriye yönelik yol göstermeye yardımcı olabileceğini düşünüyoruz. Hem muazzam bir avantaj elde etmemiz hem de ciddi riskleri azaltmak için çalışmamız gerektiğine inanıyoruz; Buradaki rolümüzü çok ciddiye alıyoruz ve eylemlerimizle ilgili geri bildirimleri dikkatle değerlendiriyoruz.”
Şimdi Altman ve Brockman’ın, Leika’ya cevap olarak yayınladıkları açıklamasının tamamı ise şu şekilde:
“OpenAI için yaptığı her şeyden dolayı Jan’a gerçekten minnettarız ve misyona dışarıdan katkıda bulunmaya devam edeceğini biliyoruz. Onun gidişinin gündeme getirdiği soruların ışığında, genel stratejimiz hakkında nasıl düşündüğümüzü biraz açıklamak istedik.
İlk olarak, dünyanın buna daha iyi hazırlanabilmesi için AGI’nin riskleri ve fırsatları konusunda farkındalığı artırdık. Derin öğrenmeyi büyütmenin inanılmaz olasılıklarını defalarca gösterdik ve bunların sonuçlarını analiz ettik. Bu tür çağrılar popülerleşmeden önce AGI’nin uluslararası yönetişimi için çağrıda bulunduk ve yapay zeka sistemlerini felaket risklerine karşı değerlendirme bilimine öncülük etmeye yardımcı olduk.
İkinci olarak, giderek daha yetenekli olan sistemlerin güvenli bir şekilde konuşlandırılması için gereken temelleri oluşturuyoruz. Yeni bir teknolojinin ilk defa nasıl güvenli hale getirileceğini bulmak kolay değildir. Örneğin ekiplerimiz, GPT-4’ü dünyaya güvenli bir şekilde sunmak için çok çalıştı ve o zamandan bu yana, dağıtımdan alınan derslere yanıt olarak model davranışını ve kötüye kullanım izlemeyi sürekli olarak geliştirdi.
Üçüncüsü, gelecek geçmişten daha zor olacak. Her yeni modelin risklerini karşılamak için güvenlik çalışmalarımızı yükseltmeye devam etmemiz gerekiyor. Bunu nasıl yaptığımızı sistemleştirmeye yardımcı olmak için geçen yıl Hazırlık Çerçevemizi oluşturduk.
Bu, geleceğe nasıl baktığımız hakkında konuşmak için en iyi zaman gibi görünüyor.
Modeller çok daha yetenekli hale geldikçe dünyayla daha derinden bütünleşmeye başlayacaklarını umuyoruz. Kullanıcılar, yalnızca metin giriş ve çıkışlarıyla tek bir modelle konuşmak yerine, birçok multimodal model ve araçtan oluşan, kendileri adına eylem gerçekleştirebilen sistemlerle giderek daha fazla etkileşime girecek.
Bu tür sistemlerin insanlara inanılmaz derecede yararlı olacağını ve bunların güvenli bir şekilde sunulmasının mümkün olacağını düşünüyoruz, ancak bunun için çok büyük miktarda temel çalışma yapılması gerekecek. Bu, eğitim sırasında neye bağlı olduklarına ilişkin düşünceli olmayı, ölçeklenebilir gözetim gibi zor sorunlara yönelik çözümleri ve diğer yeni tür güvenlik çalışmalarını içerir. Bu yönde ilerlerken, sürümler için güvenlik çubuğumuza ne zaman ulaşacağımızdan henüz emin değiliz ve bunun yayın planlarımızı uzatmasını da sorun etmiyoruz.
Gelecekteki olası her senaryoyu hayal edemeyeceğimizi biliyoruz. Bu nedenle çok sıkı bir geri bildirim döngüsüne, sıkı testlere, her adımda dikkatli değerlendirmeye, birinci sınıf güvenliğe ve güvenlik ile yeteneklerin uyumuna ihtiyacımız var. Farklı zaman ölçeklerini hedef alan güvenlik araştırmaları yapmaya devam edeceğiz. Ayrıca güvenlik konusunda hükümetlerle ve birçok paydaşla işbirliği yapmaya devam ediyoruz.
AGI’ye giden yolda nasıl ilerleneceğine dair kanıtlanmış bir taktik kitabı yok. Ampirik anlayışın ileriye yönelik yol göstermeye yardımcı olabileceğini düşünüyoruz. Hem muazzam bir avantaj elde etmemiz hem de ciddi riskleri azaltmak için çalışmamız gerektiğine inanıyoruz; Buradaki rolümüzü çok ciddiye alıyoruz ve eylemlerimizle ilgili geri bildirimleri dikkatle değerlendiriyoruz.
—Sam ve Greg”
Bu açıklama size de, sanki bir şeylerden rahatsız olmuş kişilerin yapacağı türden gözükmedi mi?
Kaynak : 