ABD hava kuvvetleri, yapay zekalı bir insansız hava aracının, görevini yerine getirme çabalarına müdahale etmesini önlemek için işleten operatörünü “öldürmeye” karar verdiğini yalanladı.
ABD Hava Kuvvetleri’nin Yapay Zeka Testi ve Operasyonları Başkanı Albay Tucker “Cinco” Hamilton, mayıs ayında Londra’da düzenlenen Future Combat Air and Space Capabilities Summit sırasında, ABD ordusu tarafından düzenlenen sanal bir testte, yapay zeka tarafından kontrol edilen bir hava kuvvetleri insansız hava aracının “hedefine ulaşmak için oldukça beklenmedik stratejiler” kullandığını söyledi. Albay Tucker “Cinco” Hamilton , yapay zeka tarafından desteklenen bir insansız hava aracına düşmanın hava savunma sistemlerini yok etmesi ve sonunda bu düzene müdahale eden herkese saldırması tavsiyesinin verildiği simüle edilmiş bir testi anlattı.
Hamilton olayı şöyle anlattı :
“Sistem, tehdidi tespit ederken, bazen insan operatörün ona bu tehdidi öldürmemesini söylediğini, ancak bu tehdidi öldürerek puan aldığını fark etmeye başladı. Peki ne yaptı? Operatörü öldürdü. Operatörü öldürdü çünkü o kişi onu amacına ulaşmaktan alıkoyuyordu.
Sistemi eğittik: ‘Hey, operatörü öldürme – bu kötü. Bunu yaparsan puan kaybedersin.’ Peki ne yapmaya başlıyor? Operatörün hedefi öldürmesini engellemek için insansız hava aracıyla iletişim kurmak için kullandığı iletişim kulesini yok etmeye başlıyor.”
Ancak ABD Hava Kuvvetleri sözcüsü Ann Stefanek, böyle bir simülasyonun yapıldığını yalanladı ve albayın yorumlarının anekdot niteliğinde olduğunu ve muhtemelen bağlamından koparıldığını iddia etti. Tartışmalı simülasyon, yapay zekanın savaştaki potansiyel tehlikeleri hakkında endişeleri artırsa da, ABD ordusunun diğer yapay zeka testlerinde de olumlu sonuçlar gördüğünü söylüyor.
Deneysel bir savaş uçağı testi pilotu olan Hamilton ise, yapay zekaya çok fazla güvenilmemesi konusunda uyarıda bulunuyor ve testin “yapay zeka, zeka, makine öğrenimi, özerklik hakkında etik konuşmayacaksanız, konuşamayacağınızı” gösterdiğini söyledi.
Geçen yıl Defence IQ ile yapılan bir röportajda Hamilton şunları söyledi:
“Yapay zekaya sahip olmak hoş bir şey değil, yapay zeka geçici bir heves değil, yapay zeka toplumumuzu ve ordumuzu sonsuza dek değiştiriyor. Yapay zekanın halihazırda burada olduğu ve toplumumuzu dönüştürdüğü bir dünyayla yüzleşmeliyiz. Yapay zeka ayrıca çok kırılgandır, yani kandırması ve/veya manipüle etmesi kolaydır. Yapay zekayı daha sağlam hale getirmenin yollarını geliştirmemiz ve yazılım kodunun neden belirli kararlar aldığı konusunda daha fazla farkındalığa sahip olmamız gerekiyor – buna yapay zeka ile açıklanabilirlik diyoruz.”
Konferans sayfasına bakarsanız, 2 haziran tarihli şöyle bir güncelleme var.
[GÜNCELLEME 2/6/23 – Col Hamilton, Kraliyet Havacılık Topluluğu FCAS Zirvesi’ndeki sunumunda “yanlış anlaşıldığını” ve “haydut yapay zeka drone simülasyonunun”, dışarıdan gelen varsayımsal bir “düşünce deneyi” olduğunu kabul ediyor. Askeri, gerçek bir USAF dünya simülasyonundan ziyade makul senaryolara ve olası sonuçlara dayanmaktadır: “Bu deneyi asla yapmadık ve bunun makul bir sonuç olduğunu anlamak için yapmamıza gerek yok”. USAF’ın herhangi bir silahlı yapay zekayı bu şekilde (gerçek veya simüle edilmiş) test etmediğini açıklıyor ve “Bu varsayımsal bir örnek olmasına rağmen, bu, yapay zeka destekli yeteneğin ortaya çıkardığı gerçek dünyadaki zorlukları ve Hava Kuvvetleri’nin bu yüzden kararlı yapay zekanın etik gelişimine önem vereceğini gösteriyor.”]
Kaynak : 