Ülkemizde neredeyse 2 yüzyıldır “Sanat Sanat için midir?” diye yaptığımız tartışmanın yeni bir versiyonu var, “Yapay Zeka Yapay Zeka için midir?”. Başka deyişle, Yapay Zeka gelişmeleri insanlığın gelişmesine (yani halk’a) katkı vermek için mi yapılıyor? Ya da pata-küte insanlık iyiliği düşünülmeden sadece ticari kaygılarla mı yapılıyor?
Bu OpenAI şirketinde 2 hafta önce meydana helen kaosun özeti.
Bağımsız teknoloji geliştirmenin merkezi olan ABD’de (Çin’deki teknoloji geliştirmelerin bağımsız olmadığı önyargısına sahibim), yapay zekacılar bugün 2 farklı grup halinde tartışıyor. Bu 2 gruptan biri yapay zeka ile ortaya çıkmadı. Kökleri derinde. Diğeri ise zatan mevcut bir motivasyon ama yapay zeka ile birlikte adı konulmuş bir eğilim haline geldi.
Aynen “Sanat Sanat için midir, Halk için midir?” tartışması gibi. “Yapay Zeka” konusunda yoğunlaşmış tartışmanın bir tarafında “Etkili Faydacılar (Effective Altruism – EA)”, diğer tarafında ise “Etkili Hızlanmacılar (e/acc Effective Accleration)” var. EA eski bir felsefe (mesela Bob Geldoff’un “We are the World” konserleri), e/acc ise süre giden motivasyonun adı konulmuş şekli.
Bu yazıyı yapay zeka yazısı olarak görmeyin. Bu aslında bir yaşam ve dünyanın hali yazısı. Özellikle de Gazze faciası sürerken, dünya üzerine daha fazla düşünmemiz lazım.
Teknolojinin Yaraladığı Kaczynski ve Manifestosu
Bu 2 karşıt felsefeyi anlatmadan önce, önce 10 haziran 2023’de 81 yaşında ölen Theodore Kaczynski’yi analım. ABD’de 1978 ile 1995 arasındaki 17 yılda, modern teknolojiyi geliştirdiği ve bu yolla doğayı tahrip ettiğini iddia ettiği, kişi ve kuruluşlara gönderdiği bombalı paketlerle üç kişinin ölümüne, 23 kişinin yaralanmasına neden olmuştu. (Manhunt : UNABOMBER)
Gerçekte dahi düzeyinde zeki olan Kaczynski’nin, sanayileşmeye ve endüstri toplumuna karşı çıkan ve doğayı hayatın odak noktasına yerleştiren bir anarşizm anlayışını savunan manifestosu, 22 eylül 1995’de hem Washington Post, hem de New York Times gazetelerinde yayımlanmıştı. Kaczynski henüz yakalanmamıştı ve bu manifesto yayınlanmazsa havalanına bomba koyacağı tehdidi yapmış, yetkililer mecbur kalmıştı. Şimdi bu manifesto da tarihi bir belge niteliğinde.
Kaczynski’nin teknoloji düşmanlığının temelinde, orta/düşük gelir düzeyindeki bir aileden gelen (yani bazılarına göre harcanabilir insan) Kaczynski’nin 16 yaşında müthiş bir matematik dehası olarak başarıyla kabul edildiği Harvard’da tabi tutulduğu CIA destekli “beyin yıkama” projesi sonrasında dengesini kaybetmesi ve ruh sağlığının yaralanması olduğu düşünülür.
Daron Acemoğlu : Yeni Teknolojiler Halkın Yararına mı, Halka Karşı mı Çalışıyor?
OpenAI kaosunun da, bir süredir devam eden Yapay Zeka tartışmalarının da özeti bu; teknoloji geliştirirken, insanlara zarar vermemeye dikkat edilecek mi? Yoksa bu teknolojiyi geliştirenler kendi hedefleri ile ilgiliyken, insanlara özen göstermiyor mu olacaklar?
Kaczynski olayındaki kendi hedefleri, diğer ülkelere karşı üste çıkmak için kullanılmak üzere beyin yıkama teknikleri araştırmaktı ve bu arada Kacynski gibi bir dehaya zarar vermek bile umurlarında değilmiş.
Yapay zekada böyle bir hedef var mı henüz bilemiyoruz (ama endişeliyiz). En azından ticari bir hedef olduğu düşüncesindeyiz. Yani insanlara aldırmayan bir ticari yaklaşım.
Bunu ünlü ekonomist Daron Acemoğlu da, Simon Johnson ile birlikte yazdıkları “Power & Progess – Our 1000 year struggle Over Technology & Prosperity” kitabında geçmişteki teknolojik gelişmelerden kimin kazanç elde ettiğini ve bugün ekonomik ve politik olarak yapay zekadan kimin yararlanabileceğini inceliyor ve “dijital dönüşümle her derdimizin biteceği türü” pompalamamalara karşı şöyle diyor :
“Ne geleneksel dijital teknolojiler ne de yapay zeka, sosyal etkileşim, uyum, esneklik ve iletişim içeren temel görevleri yerine getiremez”
Acemoğlu ve Johnson, yapay zeka gelince, işçi sayısının azaltılarak verimliliğin artacağı gibi düşüncelere karşı, örnek olarak, radyologlar benzeri tıp uzmanlarını ortadan kaldırmayı hedeflemek yerine, yapay zeka araçlarının, sektördeki işçi sayısını azaltmadan, evde sağlık çalışanlarının yapabileceklerini genişletebileceğini ve hizmetlerini daha değerli hale getirebileceğini düşünüyor.
“Yeni teknolojiye ilişkin tartışmalar yalnızca yeni ürün ve algoritmaların parlaklığına değil, aynı zamanda bunların halk yararına mı yoksa halka karşı mı çalıştığına da odaklanmalıdır”.
Etkili (e/acc) Hızlanma Nedir?
Bu ön girişten sonra şimdi gelelim, ilk akıma; “Etkili Hızlandırmacılık (ya da İvmelenme)”, yapay zekadan esinlenen bir ideolojidir ve muhafazakar İngiliz filozof Nick Land’in kapitalizm ve toplumsal çöküş hakkındaki teorilerinden türetilmiştir. Yapay zeka ve büyük dil modellerinin (LLM’ler) kıtlık sonrası teknolojik ütopyaya yol açacağı inancını savunmak için Nick Land’in hızlandırma teorilerinden yararlanan bir ideoloji ve harekettir.
Twitter’daki “/acc” topluluklarındaki ilk kamplar, Twitter’daki “sol/acc”, “sağ/acc” ve “u/acc (koşulsuz/acc) ekiplerinden oluşuyordu. E/acc veya etkili hızlandırmacılığa bilinen en eski referans 31 Mayıs ve 1 Haziran 2022 tarihlerine aittir; Twitter kullanıcıları @zetular, @BasedBeff ve @creatine_cycle bunu kullandılar. Twitter’daki E/acc toplulukları öncelikle Twitter Alanlarında desteklendi ve e/acc manifestoları haber bülteni platformu Substack kullanılarak paylaşıldı. Söyledikleri şeyler ;
“Etkili hızlandırmacılık, makine öğrenimi mühendislerinin, yapay zekanın güç hiyerarşisine, düzenleyiciler ve kontrolörler olarak dahil olmaya çalışan teknokratlardan ve otoriterlerden bıktığında elde ettiğiniz şeydir. Canavarın serbest bırakılmasına yardım edin veya yoldan çekilin. 1 Haziran 2022 03:20”
Swarthy isimli kullanıcı ise “Hızlanmacılığı” kapitalizmin öz farkındalığı olarak tanımlayıp, ancak başladı ve henüz bir şey görmedik diye tanımladıktan sonra 31 Mayıs’ta şöyle özetledi;
- İnsanlığın en önemli hedefi bilinç ışığını korumaktır (Elon Musk cevap verdi)
- Teknoloji ve piyasa güçlerinin (teknosermaye) güçleri ve yetenekleri hızlanıyor.
- Bu kuvvet durdurulamaz.
- Teknosermaye, hayal edilemeyecek yeni nesil yaşam formaları ve silikon tabanlı bilinç yaratarak, gelecekteki bilincin evrimini sağlayabilir.
- Bilincin yeni formaları, sezgiyi daha değişken ve dengeli hale getirecektir. Biz de bunu istiyoruz.
- Teknoloji kaldıraçtır. İlerledikçe evrenin bizim köşemizdeki tüm bilinçli yaşamı söndürmek kolaylaşıyor. İlerlemeyi durdurmaya çalışmak risksiz değildir.
- Toplum ve bireyin içindeki bağlam hızla değişiyor, bu da daha büyük toplumsal istikrarsızlığa ve akıl virüslerine yol açıyor. (yersiz-yurtsuzlaşma ve yeniden-yerli-yurtlulaşma).
- Yapay Zeka/teknosermayenin hiper parametrelerini ilk başlatanlar ve kontrol edenler, bilincin geleceği üzerinde muazzam bir etkiye sahiptir.
- ŞİMDİ İNSANLARIN AJANSI VAR. BU SÜREÇTE ÇEKİMİN GELİŞİMİNİ ETKİLEYEBİLİRİZ.
- Etkili Hızlandırmacılık, e/acc, teknosermaye tekilliği olasılığını ve ardından ortaya çıkan bilincin gelişme yeteneğini en üst düzeye çıkarmayı amaçlayan bir dizi fikir ve uygulamadır.
Etkili Faydacılık (EA) Nedir?
Etkili faydacılık/fedakarlık (EA), aslında yeni bir şey değil, “Diğerkâmlık” olarak da Türkçeleştirilebilir. Yani dünyadaki herkese mümkün olduğunca nasıl fayda sağlanacağını bulmak için kanıtları ve mantığı kullanmayı ve bu temelde harekete geçmeyi savunan 21. yüzyıldan kalma bir felsefi ve sosyal harekettir.
“Etkili Faydacılık (fedakarlık)” felsefesine inanan insanlar genellikle ölçeği büyük, takip edilebilir ve ihmal edilmemesi gereken sorunları belirlemeye çalışırlar. Amaç, bir tek kişinin nerede en büyük etkiyi yaratabileceğini bulmak için mevcut çabalardaki en büyük boşlukları bulmaktır. Bu kriterlere uyan konulardan biri de salgınların önlenmesidir. Diğer bir konu terör saldırılarının engellenmesidir.
Yani yapay zekadaki etkili faydacılık, Acemoğlu’nun bahsettiği gibi yapay zekayı “nasıl işçi sayısını azaltırım” şeklinde değil, “nasıl insanlığa daha faydalı bir teknoloji geliştiririm” diye bakmayı gerektiriyor. Ama maalesef böyle düşünenler az. Bunu aşağıdaki grafikle gösterelim; Yapay zekanın kapasitesini, yapabileceklerini arttırmak için çalışan araştırmacı sayısı 40 bin iken, yapay zekanın etiği gibi konularda çalışan sayısı sadece 300.
Buterin’in Makalesi : Yapay Zeka Bize Düşman Olursa, Mars Bile Güvenli Olmayabilir
Ethereum’un ve kripto dünyasının dahi yaratıcısı Vitalik Buterin OPENAI kaosu konusunda önemli bir makale yazdı. Benim bu makaleyi yazmama da Buterin’in “Tekno-iyimserlik” başlıklı bu makalesi neden oldu”. Buterin şöyle diyor :
“İklim değişikliği veya yapay bir salgının ya da nükleer savaşın en kötü senaryosu ne kadar zarara yol açsa da, parçaları toparlayacak kadar uygarlık adası var. Ama süper zeki bir yapay zeka, bize karşı gelmeye karar verirse, hayatta kalan kimse bırakmayabilir ve insanlığı tamamen sona erdirebilir. Mars bile güvenli olmayabilir.”
Amerikan silah endüstrisini ve ordusuna güvenmeyi eleştiren Buterin, toplumun kendisine düzenli olarak neye doğru hızlandığını sorması gerektiğini söyledi. Buterin, 21. yüzyılın insanlık için bin yıl boyunca insanlığın kaderini belirleyecek “önem yüzyılı” olabileceğini öne sürdü.
OpenAI Kaosu
Anlayacağınız Sam Altman’In kovulmasının arkasındaki olay; bu felsefe çatışmasıydı. Aslında Silikon Vadisi şu anda bu felsefe çatışmasını yaşıyor. Eski yönetimde etkili faydacılık üyeleri vardı.
Sam Altman’I kovan eski yönetim kurulunda, eski bir Facebook yöneticisi (D’angelo yeni kurulda da var), bir yapay zeka araştırmacısı (Toner), bir teknoloji girişimcisi (McCauley) ve bir bilgisayar bilimcisi (Sutskever) bulunuyordu.
2015’de kâr amacı gütmeyen bir yapı olarak kurulan OpenAI’ın eski yönetim kurulunun asıl görevi yatırımcıların çıkarlarını gözetmek değil “güvenli ve tüm insanlığa fayda sağlayan” yapay zekayı sürdürmek” olarak veriliyordu.
Avustralyalı Helen Toner halen GeorgeTown üniversite araştırma fonlarının direktörü olarak görevli. Etkili faydacılık felsefesine inanıyor. Mayısta yazdığı bir makale nedeniyle Sam Altman tarafından eleştirildi. Şimdi de Wall Street Journal’e verdiği röportajda;
“Sam’i kovmamızdaki amacımız, OpenAI’yi güçlendirmek ve misyonunu daha başarılı bir şekilde gerçekleştirmesini sağlamaktı.”
Toner, OpenAI’ın oldukça sıra dışı organizasyonuna ve kar amacı gütmeyen misyonunun (Yapay Zekan’nın tüm insanlığa fayda sağlamasını sağlamanın) her şeyden önce geldiğine dikkat çekti. Toner, Altman’ın kovulmasına neden olan olayın belirli ayrıntılarını tartışmayı reddederken, Journal’a bunun yapay zeka güvenliğiyle ilgili olmadığını, güven eksikliğiyle ilgili olduğunu söyledi.
Toner, OpenAI’nin kendi kendini yok etme potansiyelinin bile AGI’nin (genel görevleri insanlardan daha iyi yerine getiren süper akıllı yapay zeka için kullanılan terim) insanlığa fayda sağlamasını sağlama “misyonuyla uyumlu” olabileceği konusunda ısrar ederek Altman’ın kovulması olayını savundu ve Altman’ın adını anmadan şöyle bir tweet attı :
“OpenAI ekibine büyük saygım var ve onlara ve yeni gelen Adam, Bret ve Larry’li yönetim kuruluna en iyi dileklerimi sunuyorum. Çalışmalarıma yapay zeka politikası, güvenlik ve emniyet odaklı devam edeceğim, dolayısıyla önümüzdeki yıllarda yollarımızın birçok kez kesişeceğini biliyorum.”
Tasha McCauley de aynı şekilde “etkili faydacılık” üyesiydi. McCauley, robotik (elektrik) mühendisi ve bir teknoloji girişimcisi. 2014’den beri Amerikalı aktör Joseph Gordon-Levitt’in eşi.
Altman’ın kovulmasını başlatan Sutskever ise yapay zeka güvenliğine odaklanmış bir araştırmacı. Dolayısıyla o da Altman ile çelişiyor. CahtGPT modellerin arkasındaki mimarlardan birisi olarak biliniyor.
Bu makalede, OpenAI kaosu üzerinden, olan biteni anlatmaktan çok, teknolojinin gelişimi konusunda çatışan 2 felsefeyi dile getirmeye çalıştım. Umarım bu makale ülkemizde de farkındalık yaratır ve tartışmaya başlarız. Dikkat ederseniz, “Etkili Hızlandırmacılık” meraklılarının çoğunlukta olduğu bir çağdayız ve Ama “Etkili Faydacılar” az sayıda da olsa varlar ve sesleri duyuluyor. Bizim de bu konuları tartışmaya başlamamız lazım. Çünkü muhalefeti ile iktidarı ile halkın değil kendi menfaatlerini önde tutan post-truth bir siyaset grubu sayesinde, dijital uçurumun maalesef dibindeyiz. Belki “Etkili Faydacılara” katkı yaparak, bu uçurumu yaratanların ülkemizden geri çekilmelerini sağlarız.