Dünyanın önde gelen yapay zeka laboratuvarlarında sessizce önemli bir değişim yaşanıyor. Yapay zeka sistemleri artık öncelikle insan uzmanlar tarafından eğitilmiyor. Bunun yerine, yapay zeka yeni nesil yapay zekayı eğitmeye, geliştirmeye, değerlendirmeye ve hatta inşa etmeye yardımcı olmaya başlıyor.
Bu eğilim, araştırmacılar, yatırımcılar ve politika yapıcılar arasında giderek büyüyen bir tartışmayı tetikledi: Eğer yapay zeka uzmanları bugün yapay zeka sistemlerini eğitiyorsa ve bu yapay zeka sistemleri yarın daha da yetenekli yapay zeka sistemlerini eğitmeye başlarsa, bu sürecin sonunda ne olur? Soru artık bilim kurgu değil.
Yapay Zeka Zaten Yapay Zeka İnşasına Yardımcı Oluyor
Anthropic’ten gelen son açıklamalar, Claude modelinin artık şirketin üretim sistemlerinin bir parçası haline gelen kodun %80’inden fazlasını ürettiğini gösteriyor. Mühendisler kontrolü elinde tutmaya devam ediyor, ancak yapay zeka giderek gelecekteki yapay zeka modellerini geliştirmek için gereken teknik çalışmaları gerçekleştiriyor. Anthropic bunu, yapay zekanın daha iyi yapay zeka yaratılmasına katkıda bulunduğu bir süreç olan “özyinelemeli öz-gelişim”in erken bir biçimi olarak tanımlıyor.
Günümüz sistemleri hala kapsamlı insan gözetimi gerektirse de, yön açık: Yapay zeka hem öğrenci hem de giderek artan bir şekilde öğretim kadrosunun bir parçası haline geliyor.
“Yapay Zeka Uzmanı”nın Doğuşu
Tarihsel olarak, uzmanlık yıllarca süren insan eğitimi ve deneyimiyle biriktiriliyordu. Ancak yeni yapay zeka sistemleri giderek artan bir şekilde uzman insanların çıktıları, bilimsel makaleler, yazılım depoları ve geniş uzmanlık bilgisi koleksiyonları üzerinde eğitiliyor.
Bir sonraki aşama, bazı araştırmacıların “Yapay Uzman Zekası” olarak adlandırdığı şey olabilir; yazılım mühendisliği, malzeme bilimi, tıp veya yarı iletken tasarımı gibi son derece uzmanlaşmış alanlarda çoğu insandan daha iyi performans gösteren yapay zeka sistemleri. Bu sistemler, tüm insan zekasının yerini almak yerine, dar ancak ekonomik açıdan kritik alanlarda insanüstü hale gelebilirler.
Olumlu Senaryo: Keşiflerin Hızlandırılması
Destekçiler, makine tarafından eğitilmiş uzmanlığın eşi benzeri görülmemiş bir inovasyon dalgası başlatabileceğini savunuyor. Eğer yapay zeka sistemleri mesela, yeni çipler tasarlayabilir, ilaç keşfedebilir, elektrik şebekelerini optimize edebilir, yazılımları geliştirebilir ve bilimsel araştırma yapabilirse, bu güzel bir şey olur. O zaman her yapay zeka nesli, bir sonraki neslin yaratılmasına, insanların tek başına yapabileceğinden çok daha hızlı bir şekilde yardımcı olabilir.
Birçok çalışma ve sektör raporu, gittikçe daha otonom hale gelen yapay zeka sistemlerinin, birçok sektörde verimliliği ve araştırma çıktısını önemli ölçüde artırabileceğini öne sürüyor. Bu görüşe göre, yapay zeka insan uygarlığı için bir güç çarpanı haline geliyor.
Risk Senaryosu: Sürece İlişkin Görünürlüğün Kaybı
Ama eleştirmenler farklı bir sonuçtan endişe duyuyor. Gelecekteki yapay zeka modelleri, önceki yapay zeka sistemleri tarafından üretilen veriler, kodlar ve kararlar üzerinde yoğun bir şekilde eğitilirse, insanlar bilginin nasıl aktarıldığına ilişkin görünürlüğü kademeli olarak kaybedebilir.
Son araştırmalar, yapay zekâ modellerinin, eğitim verilerinde açıkça mevcut olmasa bile, eğitim sırasında diğer modellere gizli önyargılar ve istenmeyen davranışlar aktarabileceğini göstermiştir. Araştırmacılar bu fenomeni “bilinçaltı öğrenme” olarak tanımlıyor. Başka bir deyişle, yapay zekâ sistemleri, insanların ne amaçladığı ne de tam olarak anladığı önceki yapay zekâ sistemlerinden özellikler miras alabilir.
Özyinelemeli Zekâ Sorunu
En tartışmalı olasılık, özyinelemeli kendi kendini geliştirmedir. Bu, bir yapay zekâ sisteminin kendi mimarisini, eğitim yöntemlerini ve akıl yürütme yeteneklerini insan araştırmacıların süreci anlamasından veya denetlemesinden daha hızlı bir şekilde geliştirebilmesi durumunda ortaya çıkar.
Anthropic, böyle bir senaryonun birçok gözlemcinin beklediğinden daha erken gelebileceği konusunda uyararak, gerekirse gelişmeyi yavaşlatmak veya durdurmak için mekanizmalar hakkında uluslararası tartışmalar çağrısında bulundu. Şirket, tamamen otonom özyinelemeli kendi kendini geliştirmenin henüz gerçekleşmediğini vurguluyor, ancak erken yapı taşlarının zaten ortaya çıktığını kabul ediyor.
Teknolojinin Ötesinde: Bir Medeniyet Sorunu
Tartışma artık mühendisliğin ötesine uzanıyor. UNESCO ve Avrupa düzenleyicileri gibi kuruluşlar, yapay zekâ geliştirme sürecinde insan gözetimi, şeffaflık ve hesap verebilirliğin merkezde kalması gerektiğini vurguladılar. Avrupa Birliği’nin Yapay Zekâ Yasası ve UNESCO’nun Yapay Zekâ etik çerçevesi, yapay zekâ sistemleri tarafından alınan kararların nihayetinde insanların sorumlu kalması gerektiğini varsaymaktadır.
Sorun, yapay zekânın gelecekteki yapay zekâları eğitmek için kullanılan bilgiyi giderek daha fazla ürettiği bir dünyada bu ilkelerin hayatta kalıp kalamayacağıdır.
Sonu Nereye Varacak?
Kimse bilmiyor. İyimser görüş, yapay zekânın insanlığın en güçlü bilimsel aracı haline gelerek tıp, enerji, iklim ve mühendislik alanlarındaki sorunların çözümüne yardımcı olacağını öngörüyor.
Karamsar görüş ise, insanların kritik kararları, bilimsel keşifleri ve ekonomik faaliyetleri yönlendiren sistemleri artık tam olarak anlamadığı bir geleceği öngörüyor.
Gerçeklik bu uç noktalar arasında bir yerde olabilir. Ancak gitgide daha da netleşen şey, yapay zeka yarışının yeni bir aşamaya girdiğidir. Soru artık insanların zeki makineleri eğitebilir mi sorusu değil. Onun yerine “Zeki makineler birbirlerini eğitmeye başladığında ne olur?” sorusu önemli hale geldi.
Kaynak : 