Google, siber güvenlik sektöründe, “son yılların en önemli tehdit istihbarat raporlarından biri” olarak tanımlanan bir rapor yayınladı. Raporda, yapay zekanın siber savaş, siber suç ve dijital casusluğu gibi alanları, çok daha otomatik ve tehlikeli bir savaş alanına dönüştürdüğü uyarısı var.
Palantir Technologies’in artan etkisi ve Silikon Vadisi’nden yükselen giderek militarize olmuş söylemle birleştiğinde, rapor yeni bir teknolojik paradigmanın ortaya çıkışına işaret ediyor: Yapay zeka, gözetim, siber savaş, tahmine dayalı analiz ve devlet gücünün birleşik bir dijital güvenlik mimarisine dönüştüğü bir dünya.
Google raporu, yapay zekanın siber suçları çok daha tehlikeli ve endüstrileşmiş bir tehdide dönüştürdüğüne işaret ediyor. Çünkü hackerlar artık yapay zeka sistemlerini kullanarak güvenlik açıklarını çok daha kolaylıkla keşfediyor, bu açıkları hedefleyen kötü amaçlı yazılımları kolaylıkla geliştiriyor, saldırıları otomatikleştiriyor ve güvenlik korumalarını benzeri görülmemiş bir hızla atlatıyor.
Siber güvenlik ortamının sadece birkaç ay içinde dramatik bir şekilde değiştiğini söyleyen Google Tehdit İstihbarat Grubu (GTIG) araştırmacılarına göre, Çin, Rusya ve Kuzey Kore de dahil olmak üzere ülkelerden siber suçlular ve devlet bağlantılı aktörler, yapay zekayı saldırgan siber operasyonlarına giderek daha fazla entegre ediyor. Ama Palantir’in yorumunu düşünürseniz, bu listeye ABD’yi ve batı dünyasını da eklemek lazım.
IBM’in Değeri 30 Milyar $ Birden Düştü
Önce bir olayı hatırlatalım. 3 ay önce dünyanın en büyük bilişim firmalarından birisi olan IBM’in hisseleri, bir öğleden sonra yayınlanan bir yazı yüzünden, aniden düşüş gösterdi. 200 milyar $ düzeyinde değeri bulan firmanın değeri bir anda 30 milyar $ geriledi. Yani toplam değerin yedide biri kadar.
IBM’in en sert tek günlük düşüşünü gösteren satış dalgası, kazanç beklentilerinin altında kalması ya da beklentilerde kesintiye gidilmesi değil, Anthropic’in yapay zeka modellerinin, COBOL tabanlı sistemlerin modernizasyonunu önemli ölçüde hızlandırabileceğini savunan kısa bir yazısıyla tetiklendi.
Oysa bu modernizasyon çalışmaları, IBM’in ana bilgisayar ekosistemi çerçevesinde, yüksek kar marjlı danışmanlık hizmetleriyle gerçekleştiriliyor. Bu konuda yazılan bir tweet şöyle tanımlıyor;
“Amerika’daki ATM işlemlerinin %95’i COBOL ile çalışıyor. Yüz milyarlarca satır bankacılık, havayolları ve devlet sistemlerini destekliyor. Bunları geliştiren yazılımcılar on yıllar önce emekli oldu. Bilgi de onlarla birlikte gitti. COBOL okuyabilen mühendis bulmak her çeyrekte daha da zorlaşıyor.
IBM’in rekabet gücü asla teknoloji değildi. Başka hiç kimsenin teknolojisini anlayamamasıydı. Tüm danışmanlık imparatorlukları, kodun çok eski, çok karmaşık ve dokunulmayacak kadar kritik olması nedeniyle var oldu. Şirketler IBM’e milyarlarca dolar ödedi çünkü alternatif, felaketle sonuçlanacak sistem arızasıydı.”
Yapay Zeka’nın Güvenlik Açıklarını Bulması Neden Önemli?
Bu IBM olayı, IBM için kötü, onun yazılımlarını kullanan firmalar için iyi bir gelişmeyi gösteriyor. Ama bu olayın bir de tersi var. O da şu, yapay zeka sayesinde yazılımların sadece modernizasyonu değil, yanısıra boşlukları, açıkları da kolaylıkla bulunabiliyor.
Bugün bilişim dünyasına bakıldığında, küresel olarak tekelleşmeyi görüyoruz. Yıllar içinde herkes aynı yazılımları kullanmaya gitti. Bugün bulut sistemleri de öyle, küresel pazarın % 70’i sadece 3 firmanın elinde. Dolayısıyla bulunacak açıklar, küresel düzeyde ya da ülkeler bazında tüm ekonomik sistemi çöktürebilir.
Google raporununun ana fikri bu. Kötü niyetli kişilerin yazılımların boşluklarını çok hızlı ve yaygın bir şekilde bulmasını mümkün hale getirdiğine işaret ediyor. Tersine, savunmanın ya da çözümlerin aynı hızda gelişmediğine dikkat çekiyor.
İlk Yapay Zeka Destekli Sıfırıncı Gün Açığı Keşfedildi
Rapor, daha önce bilinmeyen bir “sıfırıncı gün” güvenlik açığını bulmak ve saldırmak için yapay zekayı kullanan hackerların ilk belgelenmiş vakasından bahsediyor. Söz konusu güvenlik açığının popüler bir “açık kaynak web yönetim sistemini” hedef aldığı ve iki faktörlü kimlik doğrulama korumalarını atlatabileceği bildiriliyor. Google, saldırı yaygın olarak kullanılmadan önce operasyonu engellemeyi başardığını söylüyor.
Sıfırıncı gün açıkları, daha önce bilinmeyen açıklar olduğu için hızla istismar edilerek, büyük zararlar yaratabiliyor. Araştırmacılar, saldırı kodunun yapay zeka tarafından üretildiğini düşündüren çeşitli işaretler tespit etti; bunlar arasında, alışılmadık şekilde yapılandırılmış dokümantasyon, “halüsinasyon” güvenlik puanları ve büyük dil modellerine özgü kodlama kalıpları yer alıyor.
Güvenlik analistleri, bunun gelişmiş siber saldırılar için giriş engelini önemli ölçüde düşürebileceği ve daha küçük suç gruplarının daha önce elit teknik uzmanlık gerektiren operasyonları başlatmasına olanak sağlayabileceği konusunda uyarıyor.
Kimlik avından otonom siber operasyonlara
Yani rapora şöyle bakalım; yapay zekanın artık sadece kimlik avı e-postaları veya sahte mesajlar oluşturmak için kullanılmadığı, bunun yerine saldırganların artık yapay zekayı, güvenlik açığı tespiti, karşı saldırı oluşturma, kötü amaçlı yazılım geliştirme, otomatik keşif, sosyal mühendislik ve saldırı zincirlerinin otonom yürütülmesi için kullandığı anlaşılıyor. Bu bir dönüm noktası gibi.
Raporlanan kötü amaçlı yazılımlardan bazılarının, tespit sistemlerinden kaçınmak için kendi kodunu dinamik olarak değiştirebildiği bildiriliyor.
Google ayrıca, yapay zekâ sistemlerinin kendilerinin de hedef haline geldiği konusunda uyardı ve saldırganların yapay zekâ yazılım bağımlılıkları, API bağlantıları, açık kaynaklı yapay zekâ araçları ve yapay zekâ tedarik zincirleri konusunda çalıştığını bildiriyor.
Rapor, devlet destekli hacker gruplarının da artan ilgisine işaret ediyor. Çin, Kuzey Kore ve Rusya bağlantılı hackerların yapay zekâyı siber operasyonlar ve güvenlik açığı araştırmaları için kullanmaya “önemli ilgi” gösterdiğini söylüyor. Özellikle Kuzey Koreli grupların geleneksel kimlik avı operasyonlarından yapay zekâ destekli istismar geliştirme yönünde evrildiği bildiriliyor.
Yıllarca siber güvenlik esas olarak savunma amaçlı teknik bir sorun olarak görülüyordu.Şimdi ise jeopolitik gücün bir altyapısı haline geliyor.Google’ın raporu, siber saldırıların insan liderliğindeki operasyonlardan yapay zeka destekli ve nihayetinde yapay zeka güdümlü sistemlere hızla evrildiğini gösteriyor.
Yapay zekâ asimetrik bir savaş alanı yaratıyor
Rapor, saldırgan yapay zekâ yeteneklerinin, artık savunma sistemlerinden daha hızlı geliştiriliyor olabileceği uyarısı yapıyor. Siber güvenlik sektörü, yapay zekanın saldırgan siber yeteneklerini insanların savunma yapabileceğinden daha hızlı bir şekilde hızlandırmaya başlayacağı anı uzun zamandır korkuyla bekliyordu. Yani güvenlik açığı tespitleri otomatikleştirebilir ve büyük dijital altyapılar genelinde eş zamanlı olarak kalıcı saldırılara olanak sağlayabilir. Google’ın raporu, bu anın gelmiş olabileceğini gösteriyor.
GTIG’nin baş analisti John Hultquist, birçok kişinin sorunun boyutunu hala yanlış anladığı konusunda uyardı.
“Yapay zeka güvenlik açığını bulma yarışı çoktan başladı,”
Gerçekten de bazı uzmanlar durumu “yapay zeka siber silahlanma yarışının” başlangıcı olarak tanımlıyor. Kritik altyapılar, bankacılık sistemleri, telekom ağları, bulut sağlayıcıları, hastaneler ve devlet sistemleri için tehditin büyük olduğu ikaz ediliyor.
Bir sonraki aşama tabii ki endüstriyel ölçekte siber suç. Google’ın raporu, siber suçun son derece otomatikleştirilmiş, endüstriyel ölçekte operasyonlara doğru ilerlediğini söylüyor.
Bu yeni gelişmelere bakıldığında, yapay zekanın, hem en güçlü siber güvenlik savunma aracı, hem de şimdiye kadar yaratılmış en tehlikeli saldırı silahı görevini göreceği anlaşılıyor.
“Palantir dünya görüşü” devreye giriyor
Hemen hemen aynı günlerde, Alex Karp ve Palantir, birçok analistin artık yeni bir teknolojik güvenlik doktrini olarak tanımladığı felsefesi gündeme geldi. Palantir’in kamuoyuna yönelik mesajları, modern dünyayı, istikrarsız, sürekli olarak çekişmeli, bilgiye hakim ve sürekli algoritmik izlemeye bağımlı olarak tanımlıyor ve batı hükümetlerinin ve kurumlarının jeopolitik rekabette hayatta kalabilmek için yapay zekâ destekli gözetim, tahmine dayalı analiz ve dijital savaş araçlarını benimsemeleri gerektiğini söylüyor.
Karp, son kamuoyu açıklamalarında ve yazılarında, askeri yapay zekâyı, tahmine dayalı hedefleme sistemlerini, istihbarat birleştirme platformlarını ve Silikon Vadisi ile ulusal güvenlik kurumları arasındaki yakın işbirliğini savunuyor.
Eleştirmenler, ortaya çıkan bu yeni ideolojiyi giderek “Palantir Doktrini” veya “Palantir Manifestosu” olarak adlandırıyor; bu, liberal demokrasilerin stratejik üstünlüğü korumak için veri ve algoritmik istihbaratı merkezileştirmesi gerektiği yorumu.
Google’ın siber güvenlik uyarısı ile Palantir’in felsefesi arasındaki yakınlaşma dikkat çekici. Her ikisi de aynı geleceğe işaret ediyor. Güvenliğin gerçek zamanlı veri entegrasyonuna ve yapay zekâ destekli tahmine bağlı olduğu bir dünya. Bu modelde,
- siber güvenlik,
- istihbarat,
- polislik,
- sınır kontrolü,
- finansal izleme,
- ve askeri operasyonlar
hepsi aynı dijital altyapının birbirine bağlı katmanları haline geliyor. Bu, dünya çapındaki hükümetler tarafından kullanılan sistemlerde zaten görülebilir. Palantir platformları ile şunları takip etmek kolaylaşıyor :
- telefon meta verileri,
- göçmenlik kayıtları,
- finansal işlemler,
- konum geçmişleri,
- sosyal medya ilişkileri,
- yüz tanıma verileri,
- ve istihbarat veritabanları
Google’ın raporu, yapay zekanın bu denklemin saldırı tarafını önemli ölçüde hızlandırabileceğini öne sürüyor. Daha derin bir analiz, dünyanın yarı otonom güvenlik mimarilerine doğru ilerliyor olabileceğidir. Destekçiler, bunun gerekli olduğunu çünkü modern siber tehditlerin makine hızında hareket ettiğini savunuyor.
Ancak eleştirmenler, toplumlar yapay zekâ destekli güvenlik altyapısını normalleştirdiğinde, siber güvenlik, gözetim ve sosyal kontrol arasındaki çizginin giderek bulanıklaşabileceği konusunda uyarıyor:
Silikon Vadisinde büyük teknoloji şirketleri son 20-25 yılda, kendilerini öncelikle açıklık, inovasyon ve bağlantı odaklı tüketici platformları olarak sundular. Bu imaj hızla değişiyor. Bugün birçok önde gelen teknoloji firması kendilerini savunma müteahhitleri, İstihbarat altyapısı sağlayıcıları ve stratejik ulusal güvenlik ortakları olarak konumlandırıyor. Palantir bu kimliği açıkça benimsiyor. Ama sadece o değil, kısaca özetlersek,
- Google siber güvenlik istihbaratı sağlıyor,
- Microsoft askeri bulut sistemleri kuruyor,
- Amazon savunma altyapısını destekliyor,
- OpenAI devlet kurumlarıyla iş birliği yapıyor ve yapay zekâ firmaları giderek daha fazla “ulusal rekabet gücü” ve “dijital egemenlik” konularını tartışıyor.
Özetle, Google’ın raporu, dünyanın bir yapay zeka siber silahlanma yarışına girdiğine dair korkuları da güçlendiriyor. Nükleer silahlardan farklı olarak, yapay zeka sistemleri, dağıtımı ucuz, düzenlenmesi zor, küresel ölçekte uygulanabilir ve hem devletler hem de ülkeler için erişilebilir silahlar olarak giderek daha etkili hale geliyor.
Kaynak : 