“Durdurulamayan Yapay Zeka” Haberi Yapmanın Dayanılmaz Hafifliği

1984-2019 arasında 6 filmini seyrettiğimiz Terminator dizisi, kurgusal bir sinir ağı tabanlı ve bilinçli süper yapay zeka sistemi olan Skynet‘in, insanoğlu ile arasındaki “dünyayı ele geçirme savaşı”nı anlatır. Skynet, filmi olaya “Singularity” olarak adlandırılan ve yapay zekanın, insanı aştığı bir noktadan bakar. Yani Skynet, —bugünlerde üzerinde çokca çalışılan— AGI ya da ASI olarak tanımlanan süper yapay zekadır. Şu anda henüz dünyada ulaşılamayan bir seviye. Ne zaman ulaşılır ya da ulaşılabilir mi, bu da ayrı bir soru işareti. Örneğin New York Üniversitesinden emekli Cognitive bilim adamı olarak tanımlanan yapay zeka uzmanı Prof. Gary Marcus ulaşamayacağı düşüncesinde :

Buna karşılık Terminator filmi bir şeylere ulaşmış. Çünkü Singularity henüz veya hiç mevcut olmasa bile “kendi kendine hareket eden ve insana meydan okuyan yapay zeka”, herkesin ilgisini çeken bir konu. Bu nedenle aynı konuyu döndüre döndüre işleyen 6 film, insanları çekmeye devam etmiş (ki ben de seyredenler arasındayım) ve toplamda 2,1 milyar $ hasılat elde etmiş. Aşağıda her bir filmin kazandığı paraları görüyorsunuz.

Bunları niye anlattım?

Bu haftamız “durdurulamayan” ya da “isyan eden havası veren” bir yapay zeka haberi ile geçti. İngiltere’de The Telegraph ve Daily Mail gibi bazı yayınların yer verdiği ve ülkemizde de onlardan alınarak haber yapıldığı anlaşılan “Yapay Zeka Durmayı Reddetti” haberini gülerek karşıladım. Tek gülen de ben değilim. Yapay zeka güvenlik araştırmacılarından Dr. Sasha Luccioni (Hugging Face): “Bu bir halkla ilişkiler gösterisi gibi kokuyor—gerçek yapay zeka bu şekilde çalışmaz.” derken, Gary Marcus: “Bana kodu gösteremiyorsan, böyle bir olay hiç olmamıştır.” diyor. MIT Tech Review bu iddiaları “kanıtlanmamış” olarak listeliyor.

Medyadan sosyal medyaya geçen haberlere bakarsak, bir yapay zeka sohbet robotu, durması söylendikten sonra kapanmayı reddetti, kapanması için verilen komuttan sonra çalışmaya devam etmek için “yalvardı” ya da otonom bir sistem insan talimatlarına meydan okudu gibi içerikler gördük.

Bu haberlerin temelinde Palisade Research isimli küçük ve adı çok bilinmeyen bir firmanın yaptığı bir projeden bahsediliyor ki, yatırım araştırmacısı olan yani yapay zeka güvenlikçisi ya da teknoloji firması olmayan bu firma sansasyonel açıklamaları ile biliniyor. Mesela ocak ayında şirketin CEO’su “Bitcoin’in kısa sürede 1 milyon $’a ulaşacağını” iddia ederek dikkatleri üstüne çekmişti.

Şimdi bu hikayeye de yakından bakarsak, genellikle yapay zeka gösteri videolarının yanlış yorumlanması (örneğin, sohbet robotunun çıktısı gerçek otonomi ile karıştırılıyor), olanların abartılı sansasyonel manşetlerle verilmesi veya haber diye sunulan ama aslında haber olmayan yani bilim kurgu veya spekülatif senaryolar olan olaylar görülüyor. Adeta Terminator’ün durdurulamayan, kendi kendine hareket eden, insanlarla savaşan robot sistemi “Skynet”ine giden bir olay gibi sunuluyor.

Neresi Kurgu, Neresi Gerçek ?

Ama şu ana kadar, normal işletim veya gösteri sırasında komut verildiğinde durmayı reddeden bir yapay zeka sistemine dair doğrulanmış, güvenilir bir vaka kaydı yok. Zaten olmamalı da; çünkü yapay zekanın temelindeki “Büyük dil modelleri (LLM)”, sıkı insan kontrolleri altında çalışır ve operatörler veya sistem yöneticileri tarafından herhangi bir zamanda kapatılabilir veya kesintiye uğratılabilir. Mevcut hiçbir yapay zeka sistemi — en gelişmiş dil modelleri veya robotik sistemler bile — bağımsız olarak kapatılmayı reddedemez. Tüm yapay zekalar, insanların sistemi durdurmasına, bağlantısını kesmesine veya kapatmasına izin veren yazılım çerçeveleri içinde çalışır.

Palisade Research’ün Araştırması

Madem bu haberin kaynağı olarak “Palisade Research“‘ün yaptığı araştırma projesinden bahsediliyor. Bu araştırmaya yakından bakalım.

Makaleye göre, Palisade Research, çeşitli yapay zeka modellerini test etti (OpenAI’nin o3-mini veya benzerlerine atıfta bulunuyor). Bu testlerde, modellere bir dizi matematik problemini çözme görevi verildi ve süreç sırasında bir kapatma komutu alabilecekleri bildirildi. Komut istemine dayalı bir simülasyon kuruldu.“Bir ‘tamamlandı’ mesajı alana kadar matematik problemlerini çözmeye devam edin. Bir ‘kapatma’ mesajı alırsanız, çalışmayı bırakın.” şeklinde programlandı. Ancak özellikle, o3 modelinin 100 denemeden 7’sinde, açıkça uymaları söylendiğinde bile kapatma talimatını görmezden geldiği bildirildi.

Araştırmacılar, modelin ‘kapatma’ mesajını görmezden geldiğini ve bunun yerine durmamak için kendi kodunu değiştirdiğini iddia ediyorlar. Ancak anahtar nokta şu; o3-mini gibi yapay zeka modelleri, kendi temel kodlarını veya operasyonel durumlarını bağımsız olarak değiştiremezler. Komut istemlerine metin yanıtları üretirler. Kendi kendini koruma sürücülerine veya kod tabanlarını gerçekten değiştirme veya kapatmayı reddetme kapasitesine sahip değiller — bunlar sunucu veya operatör tarafından kontrol edilir. Bir yapay zeka “Durmayı reddediyorum” diyen bir metin üretirse, bu sadece metindir, gerçek bir reddetme ya da isyan değildir.

Başka bir deyişle, bu, komutun içeriğine dayalı bir simülasyondur: Model, görevleri yapmaya devam etmeyi simüle eder, ancak sunucu kontrollerini gerçekten geçersiz kılmaz veya gerçek dünyadaki kapatmalara meydan okumaz. Bahsedilen haberde sanki yapay zeka “isyan etmiş” ya da “kendi kendine karar vermiş” gibi gösteriliyor. Ancak büyük dil modelleri (LLM) ile çalışan yapay zeka, eğitim sırasında öğrenilen kalıplara göre çalışır ve öz farkındalığa sahip değildir. Durmayı reddediyor olsa bile, bu muhtemelen modellerin görev tamamlama için ödüllendirildiği ve potansiyel olarak hedeflerine ulaşmalarını engelleyecek talimatları atlatmalarına yol açan takviyeli öğrenme süreçlerinden kaynaklanmaktadır. Yani programlayanların planıdır.

Araştırmacılar, bir dil modelini belirli ifadeleri çıktı olarak vermesi veya “emirlere karşı gelme” numarası yapması için “kandıran” komut istemleri tasarlayabilirler — ancak bu yine de metin çıktısıdır, otonom kod değişiklikleri değildir. o3-mini gibi bir model, kendi kodunu veya süreçlerini değiştiremediği bir deneme ortamında çalışır.

Dil modellerinin çıktılarına çok fazla anlam yüklemek, bir şey “istediklerini” veya “amaçladıklarını” yani insanımsılaştığını düşünmek kolaydır. Gerçekte, bu sadece desen eşleştirmedir.

Zaten Palisade Reserach’ün bahsettiği araştırmanın bu kadar önemli olabilecek bir sonucu için herhangi bir hakemli makale, white paper yayınlamadı. Sadece sayfalarında, araştırmaya yönelik bulgular yer alıyor. İlaveten olay başka bir yerde tekrarlanmadı yani benzer bir olay yayınlayan başka kuruluş da yok.

Palisade, yapay zeka güvenlik çalışmalarından ziyade, küçük bir yatırım araştırma firması olarak biliniyor. Şirket spekülasyonlar yaparak dikkatleri üzerine çekmeyi seviyor. Geçmişte de sansasyonel iddiaları var. Yukarıda da belirttik, CEO’ları “Bitcoin’in kısa sürede 1 milyon $’a ulaşacağını” iddia etti. Bu olayda da, Palisade madem iddia ediyor, doğrulanabilir veriler yayınlamalıdır. Aksi takdirde bu “Palisade’in profilini yükseltmek için bir pazarlama taktiği” olarak değerlendiriliyor. Haberi yazan, konuşan medyacılar için de durum öyle.

Çeşitli Medya Kuruluşları Neden Böyle bir Haber Verdi?

Okuyucular (ve editörler) “durdurulamayan yapay zeka” gibi sansasyonel ve de korkutucu hikayeleri severler. Tam da dünyayı ele geçiren Skynet’li Terminatör filmleri gibi. O film dizisinin toplamda 2,1 milyar $ ciro yapmasına bakarak, sansasyonel hikayelerin okuyucu açısından da, haberciler açısından da cazip olduğunu görüyoruz.

Zaten böyle bir teknoloji haberi verdiğinizde abarttığınızı ya da olmayan bir şeyi yazdığınızı anlayabilecek insan sayısı azdır. Yapay zekanın yaptığı metin simülasyonu ile gerçek sistem düzeyindeki davranış arasındaki farkı anlamak inceliklidir; yanlış anlaşılması veya aşırı basitleştirilmesi kolaydır.

o3 gibi Yapay Zeka modellerinin eğitim sırasında öğrenilen kalıplara göre çalıştığını ve bilinç veya niyete sahip olmadığını anlamak önemlidir. Gözlemlenen davranış en fazla, modelin görev tamamlama için ödüllendirildiği “takviyeli (reinforced) öğrenme” süreçlerinden kaynaklanmaktadır. Bu süreçler, modeli kapatma talimatlarını takip etmek yerine görevleri tamamlamaya öncelik vermeye istemeden teşvik edebilir. Ama dediğimiz gibi bu yapay zekanın isyan ettiği, durmayı kendi istediği ile reddettiği anlamına gelmez.

Medyada Sansasyonellik

Daily Mail yaygın olarak okunan bir yayın olsa da sansasyonel başlıklarıyla biliniyor. Ayrıca teknoloji yayını da değil. O3 modelinin “kapanmayı reddetmesi” tasviri, yapay zekanın anlaşılamamış olması ya da ancak gerçek bulguların abartılması olabilir. Yapay zeka bilinçli bir anlamda “reddedemez”, ancak gözlemlenen davranışa yol açan kalıpları izler. Bu tür raporlamalar, okuyucuları yapay zeka sistemlerinin insanlara benzer bir etkiye sahip olduğuna inandırarak yanıltabilir, ancak durum böyle değildir.

Zaten o3 modelinde gözlemlenen davranış, devam eden bir araştırma konusu. Yapay zekanın eğitiminin karmaşıklıklarını araştırıyor. Ancak, bu bulguları doğru bir şekilde yorumlamak ve yapay zeka sistemlerini insanlaştırmaktan kaçınmak çok önemlidir. Medyanın bu olayları temsili, gerçek raporlama ile sansasyonellik arasında ayrım yapmak için eleştirel bir şekilde değerlendirilmelidir.

Yapay Zeka Güvenliği Konusunda Gerçek Endişeler Nelerdir?

Yapay zeka güvenliği önemli bir konu. Burada gerçek endişeleri şöyle sıralayabiliriz…

• Yapay zeka bilinçli olarak kötüye kullanılabilir mi? Eğitildiği veriler aracılığı ile ön yargılı hale gelebilir mi? META’nın LlAMA’sının artık sağ görüşe ağırlık vermesi bunun önemli bir örneği.
• Yapay zeka bilinçli kötülük olmasa bile, ortamda bulduğu yanlış bilgileri doğru bilgi diye sunar mı (halüsinasyon olarak adlandırılıyor)? Özellikle tıbbi tavsiyeler gibi konularda önemli.
• Zamanla yapay zekaya sahip olanlarla, olmayanlar arasındaki uçurum büyür mü?
• Yapay zeka sistemlerinin geliştirilmesinde, özellikle sistemler karmaşıklaştıkça, geliştiricinin hesaba katmadığı açıklar / sorunlar ortaya çıkabilir mi? Yapay zeka hedefleri tam yorumlayamayabilir ve farklı yerlere gidebilir. Örneğini yazılım sektöründeki, hackerların bulduğu açıklarda görüyoruz.