Ethereum yaratıcısı Vitalik Buterin, Ekim ayında yapay zeka hakkında görüş belirten Marc Andreessen’nin Tekno-İyimser Manifesto‘sunda ilham alarak, “tekno-iyimserlik” hakkında kendi görüşünü yayınladı. Buterin, Andreessen’in olumlu bakış açısına katılırken, yapay zekanın gelişim yoluna ve teknolojinin gelecekteki yönünün önemine dikkat çekti.
Mesaj uzun olmasına rağmen, OpenAI’deki son zamanlardaki kaos’a özel bir yanıt olarak geliyor. Bu mücadele genel olarak Sam Bankman-Fried’ın ittifak kurduğu ve finansmanına yardım ettiği grup olan “Etkili Fedakarlar (EA)” ile çok daha serbest piyasa odaklı bir grup olan “Etkili Hızlandırmacılar (e/acc)” arasındaki bölünmeden kaynaklandı.
Buterin, yapay zekanın insan ırkının yok olmasına yol açmak da dahil olmak üzere varoluşsal bir risk yaratabileceğini şu sözlerle ifade ediyor ;
“İklim değişikliği veya yapay bir salgının ya da nükleer savaşın en kötü senaryosu ne kadar zarara yol açsa da, parçaları toparlayacak kadar uygarlık adası var. Ama süper zeki bir yapay zeka, bize karşı gelmeye karar verirse, hayatta kalan kimse bırakmayabilir ve insanlığı tamamen sona erdirebilir. Mars bile güvenli olmayabilir.”
Buterin, “AI Impacts” tarafından 2022’de yapılan bir ankete dikkat çekerek, katılımcıların yüzde 5’inin yapay zeka nedeniyle ve % 10’unun insanların yapay zekayı kontrol edememesi nedeniyle neslinin tükeneceğine inandığını söyledi. Bu nedenle yapay zekanın gelişimine, kapalı ve özel şirketler ve risk sermayesi fonları yerine, güvenlik odaklı bir açık kaynak hareketinin liderlik etmesi ve amacın “kâr’ı maksimuma çıkarma” olmaması gerektiğini söyledi :
“Hem süper zeki hem de insan olan, ayrıca insanların sadece evcil hayvanlar olmadığı, aynı zamanda dünya üzerinde anlamlı bir etkiye sahip olduğu bir gelecek istiyorsak, o zaman yapay zeka konusunda böyle davranmamız gerekiyor.”
Buterin, dönüştürücü teknolojinin insanlık için daha parlak bir geleceğe yol açacağına inandığını ancak daha az açgözlülük ve daha fazla kamu sağlık hizmeti ile dünyanın bugünkü gibi kalması gerektiği fikrini reddettiğini söyledi. El aletlerinden, akıllı telefonlara kadar çeşitli inovasyonların geçmişine işaret eden Buterin, teknolojiyi insan potansiyelini genişlettiği için sevdiğini söyledi :
“İnsanlığın gezegenlere ve yıldızlara erişimini daha da genişletmenin son derece iyi olduğuna inanıyorum. Çünkü insanlığın son derece iyi olduğuna inanıyorum.
Dünyayı diğer teknoloji türlerinden çok daha güvenilir bir şekilde daha iyi hale getiren belirli teknoloji türleri var. Geliştirildiği takdirde diğer teknoloji türlerinin olumsuz etkilerini azaltabilecek belirli teknoloji türleri var.”
Buterin, küçük bir teknokrat grubu tarafından kontrol edilen hükümete karşı çıkan veya muhalif olanlara karşı kullanılan dijital otoriterlik ve gözetim teknolojisindeki artış konusunda uyarıda bulundu. İnsanların çoğunluğunun son derece gelişmiş yapay zekanın tek bir grup tarafından tekelleştirilmesindense on yıl ertelenmesini tercih edeceğini söyledi.
“Temel korkum, OpenAI’nin 500 çalışanla yüz milyondan fazla müşteriye hizmet vermesine olanak tanıyan yönetim teknolojilerinin aynı zamanda 500 kişilik bir siyasi elitin, hatta 5 kişilik bir kurulun bir şirket üzerinde demir yumruk oluşturmasına da olanak sağlamasıdır.
Buterin, “Etkili Hızlandırma (“e/acc” olarak da bilinir)” hareketine sempati duyduğunu söylese de, askeri teknolojiye olan coşkusu konusunda karışık duygular besliyor. “Askeri teknolojinin iyi olduğu çünkü Amerika tarafından üretildiği ve kontrol edildiği, üstüne Amerika’nın iyi olduğu” fikrine atıfta bulunarak şöyle dedi :
“Modern askeri teknolojinin iyilik için bir güç olduğu yönündeki coşku, baskın teknolojik gücün, şimdi ve gelecekte çoğu çatışmada güvenilir bir şekilde iyi adamlardan biri olacağına inanmayı gerektiriyor gibi görünüyor.
Etkili Hızlandırma (E/acc) felsefesine inanmak, her şeyini hem hükümetin şimdiki ve gelecekteki ahlakına hem de ülkenin gelecekteki başarısına yatıran bir Amerika taraflısı olmayı mı gerektiriyor?
Yani Buterin, etkin hızlandırıcı çoğunluğun “askeri teknolojiye duyduğu coşku”dan rahatsız görünüyor. Bu noktada e/acc’leri EA’larla aynı bencil hatayı yapmakla suçluyor. Buterin, küçük bir grup insana, sadece akıllıca kullanacakları ümidiyle “aşırı ve şeffaf olmayan güç” verilmemesi konusunda uyarıda bulunuyor ve bunun yerine “d/acc” (savunma, ademi merkeziyetçilik, demokrasi ve farklılık) felsefesini tercih ettiğini söylüyor. Bu zihniyetin etkili fedakarlara, özgürlükçülere, çoğulculara, blockchain savunucularına ve güneş ve ay serserilerine uyum sağlayabileceğini söyledi. Buterin şöyle devam etti :
“Savunmayı tercih eden bir dünya birçok nedenden dolayı daha iyi bir dünyadır. Elbette güvenliğin doğrudan faydası var: Daha az insan ölüyor, daha az ekonomik değer yok oluyor, çatışmalara daha az zaman harcanıyor. Savunmayı destekleyen bir dünya, daha sağlıklı, daha açık ve özgürlüğe daha saygılı yönetim biçimlerinin gelişmesini kolaylaştırır.
Buterin, toplumun düzenli olarak neye doğru hızlandığımızı sorması gerektiğini söyledi. Buterin, 21. yüzyılın insanlık için bin yıl boyunca insanlığın kaderini belirleyecek “önem yüzyılı” olabileceğini öne sürdü. Çözümlerin aranması gerektiğini ve kendisinin de buna katkı vermek istediğini söyledi :
“Bunlar zorlu sorunlar. Fakat türümüzün cevapları bulmaya yönelik büyük kolektif çabasını izlemeyi ve buna katılmayı sabırsızlıkla bekliyorum.”
Buterin kapanışta şöyle yazıyor:
“İnsanlığın son derece iyi olduğuna inanıyorum. Evet, insanlar bazıları kötü niyetlidir ama nezaket ve merhamet gösteririz ve ortak çıkarımız için birlikte çalışırız.
Bundan iki milyar yıl sonra, eğer Dünya ya da evrenin herhangi bir kısmı hala Dünya yaşamının güzelliğini taşıyorsa, bunu gerçekleştirecek olan şey uzay yolculuğu ve jeomühendislik gibi insan yapımı olacaktır.
İnşa etmemiz ve hızlandırmamız gerekiyor.”