San Francisco merkezli kar amacı gütmeyen “YAPAY ZEKA GÜVENLİĞİ MERKEZİ” web sayfasında yayınlanan bir bildiri ile, OpenAI ve Google Deepmind başkanları da dahil olmak üzere 350’den fazla yapay zeka uzmanı, yapay zekanın insanlığın yok olmasına yol açabileceği konusunda uyardı ve bu konudaki risklerin, nükleer savaştan beri öncelikli olduğunu söyledi :
“Yapay zekanın neden olduğu yok olma riskini azaltmak, pandemiler ve nükleer savaş gibi diğer toplumsal ölçekli risklerin yanı sıra küresel bir öncelik olmalıdır”
Bu bildiri, aralarında Google DeepMind CEO’su Demis Hassabis ve OpenAI CEO’su Sam Altman’ın, Anthropic’ten Dario Amodei yanı sıra Geoffrey Hinton ve Yoshua Bengio’nun da bulunduğu kişiler tarafından ortaklaşa imzalandı. Yapay zeka üzerindeki çalışmaları nedeniyle 2018 Turing Ödülü’nü (bazen “Bilgisayarın Nobel Ödülü” olarak anılır) kazanan üç yapay zeka araştırmacısı. Bu makalenin yazıldığı sırada, o yılın üçüncü kazananı, şimdi Facebook ana şirketi Meta’nın baş yapay zeka bilimcisi olan Yann LeCun imzalamadı.
Yapay Zeka Güvenliği Merkezi web sitesi, bir dizi olası felaket senaryosu listeledi :
- AI’lar silah haline getirilebilir – örneğin, uyuşturucu keşif araçları kimyasal silahlar yapmak için kullanılabilir
- Yapay zeka kaynaklı yanlış bilgi toplumu istikrarsızlaştırabilir ve “kolektif karar alma sürecini baltalayabilir”
- Yapay zekanın gücü, “rejimlerin yaygın gözetim ve baskıcı sansür yoluyla dar değerleri dayatmasına” olanak tanıyarak, giderek daha az sayıda elde yoğunlaşabilir.
- İnsanların “Wall-E filminde tasvir edilen senaryoya benzer şekilde” yapay zekaya bağımlı ve güçsüz hale gelebilir.
Süper akıllı yapay zekadan kaynaklanan riskler hakkında daha önce bir uyarı yayınlayan Dr. Geoffrey Hinton, Yapay Zeka Güvenliği Merkezi’nin çağrısını da destekledi. Montreal Üniversitesi’nde bilgisayar bilimi profesörü olan Yoshua Bengio da imzaladı. Dr Hinton, Prof Bengio ve NYU Profesörü Yann LeCun, bu alandaki çığır açan çalışmalarından dolayı genellikle “yapay zekanın vaftiz babaları” olarak tanımlanır ve bu çalışmaları nedeniyle bilgisayar bilimindeki olağanüstü katkıları takdir eden 2018 Turing Ödülü’nü birlikte kazandılar.
Meta’da da çalışan Prof LeCun, “AI araştırmacılarının bu kıyamet kehanetlerine en yaygın tepkisinin yüzünü avuçlamak olduğunu” tweetleyerek bu kıyamet uyarılarının abartılı olduğunu söyledi. Diğer birçok uzman da benzer şekilde, yapay zekanın insanlığı yok edeceği korkusunun gerçekçi olmadığına ve sistemlerde zaten bir sorun olan önyargı gibi konulardan dikkati dağıttığına inanıyor.
Yapay zekanın sözde “varoluşsal” tehdidine ilişkin medyada yer alan haberler, Elon Musk da dahil olmak üzere uzmanların yeni nesil yapay zeka teknolojisinin gelişimini durdurmaya çağıran açık bir mektubu yayınladığı Mart 2023’ten bu yana çığ gibi arttı.
Yeni bildiri, riski nükleer savaşın yarattığı riskle karşılaştırıyor. OpenAI yakın zamanda bir blog gönderisinde, süper zekanın nükleer enerjiye benzer bir şekilde düzenlenebileceğini öne sürdü:
“Süper zeka çabaları için muhtemelen bir IAEA [Uluslararası Atom Enerjisi Ajansı] gibi bir şeye ihtiyacımız olacak”
G7 yakın zamanda yapay zeka üzerine bir çalışma grubu oluşturdu.
Kaynak : 