Bir grup siber güvenlik araştırmacısı, birçok uzmanın uzun zamandır korktuğu şeyi gösterdi: Her hedef makineyi analiz edebilen ve saldırı stratejisini buna göre uyarlayabilen açık kaynaklı yapay zeka ile çalışan bir bilgisayar solucanı.
Toronto Üniversitesi ve işbirliği yapan kurumlardan bilim insanlarının yer aldığı araştırma, güvenlik açıklarını belirlemek, saldırıları planlamak, sistemleri tehlikeye atmak ve ardından ağ üzerinde otonom olarak yayılmak için açık ağırlıklı büyük dil modeli (LLM) kullanan bir prototip “uyarlanabilir solucan”ı tanımlıyor. Genellikle tek bir güvenlik açığına dayanan geleneksel solucanların aksine, yapay zeka destekli solucan, karşılaştığı her makinenin özelliklerine göre davranışını değiştirebiliyor.
Yeni Nesil Kötü Amaçlı Yazılım
On yıllardır, bilgisayar solucanları belirli bir yazılım açığını kullanarak yayılıyor. Güvenlik ekipleri bu açığı yamaladıktan sonra, solucanın yayılması genellikle durdurulabiliyordu.
Araştırmacılar, yapay zekanın bu denklemi değiştirdiğini savunuyor. Prototip, hedef sistemleri sürekli olarak analiz eder, mevcut saldırı yollarını belirler ve özelleştirilmiş istismar stratejileri oluşturur. Teoride bu, solucanın farklı işletim sistemleri, cihazlar veya yapılandırmalarla karşılaşabileceği ve her biri için farklı saldırı yöntemleri seçebileceği anlamına gelir.
Gösterim, Windows sistemleri, Linux makineleri, sunucular, iş istasyonları ve Nesnelerin İnterneti (IoT) cihazları karışımını içeren izole bir sanal ortamda gerçekleştirildi.
Güvenlik Uzmanları Neden Endişeleniyor?
En önemli bulgu, sistemin tek bir GPU üzerinde yerel olarak çalışan açık kaynaklı bir yapay zeka modeli kullanılarak oluşturulmuş olması olabilir.
Genellikle güvenlik önlemleri, filtreler ve kullanım kısıtlamaları getiren ticari yapay zeka hizmetlerinin aksine, yerel olarak çalıştırılan açık kaynaklı modeller merkezi kontroller olmadan çalışabilir. Araştırmacılar, benzer sistemler kötü niyetli aktörler tarafından geliştirilirse, bunun geleneksel yapay zeka güvenlik mekanizmalarını büyük ölçüde önemsiz hale getirdiğini belirtiyor.
Solucan ayrıca, ele geçirilen makineler arasında hesaplama kaynaklarını paylaşacak şekilde tasarlandı. Güçlü bir enfekte sistem, daha az güçlü enfekte cihazların gelecekteki saldırıları planlamasına yardımcı olan bir yapay zeka “beyni” haline gelebilir. Siber güvenlik araştırmacıları, üretken yapay zekanın siber suçlara giriş engelini düşürebileceği konusunda yıllardır uyarıda bulunuyor.
Bir zamanlar güvenlik açığı araştırması, istismar geliştirme, kötü amaçlı yazılım özelleştirmesi ve ağ açığı bulma gibi görevler, yapay zeka araçları kullanılarak daha fazla otomatikleştirilebilir veya hızlandırılabilir. Benzer akademik araştırmalar, yapay zekanın güvenlik açıklarını keşfedebileceğini ve bağlı cihazlara karşı saldırıları benzeri görülmemiş bir hızda otomatikleştirebileceğini zaten göstermiştir. Sonuç olarak, saldırganların artık eskisi kadar teknik uzmanlığa ihtiyaç duymayabileceği ortaya çıkıyor.
Yapay Zeka Saldırı Aracı Haline Geliyor
Bu gösteri, yapay zekanın siber güvenliği zaten dönüştürdüğü bir dönemde gerçekleşiyor. Son zamanlarda Anthropic, Claude Mythos güvenlik modelinin 10.000’den fazla yüksek ve kritik öneme sahip yazılım güvenlik açığını tespit ettiğini ve yapay zekanın güvenlik açığı keşfini nasıl önemli ölçüde hızlandırabileceğini gösterdiğini açıkladı. Zorluk şu ki, aynı yetenekler potansiyel olarak hem savunmacılar hem de saldırganlar tarafından kullanılabilir.
Güvenlik uzmanları, gelecekteki siber çatışmaların şunları içerebileceği konusunda giderek daha fazla uyarıda bulunuyor: Yapay zeka destekli kötü amaçlı yazılımlar, otonom keşif sistemleri, kendini uyarlayan saldırılar ve ajan tabanlı siber saldırı platformları haline geliyor.
Böyle bir senaryoda, kötü amaçlı yazılımlar artık statik kod olmayacaktır. Bunun yerine, karar verebilen, başarısızlıklardan ders çıkarabilen ve koşullar değiştikçe taktiklerini değiştirebilen otonom bir dijital ajan gibi davranabilir.
Yapay Zeka Çağı İçin Bir Uyarı
Araştırmacılar, çalışmalarının kontrollü bir ortamda yürütüldüğünü ve savunmacıların ortaya çıkan tehditleri, gerçek dünyada ortaya çıkmadan önce anlamalarına yardımcı olmayı amaçladığını vurguluyor. Ancak daha geniş kapsamlı çıkarımları göz ardı etmek zor.
Siber güvenlik sektörü, önceden tanımlanmış talimatları izleyen kötü amaçlı yazılımlara karşı savunma yapmak için on yıllarını harcadı. Yapay zeka destekli solucanlar, bir saldırı sırasında akıl yürütebilen, uyum sağlayabilen ve evrimleşebilen kötü amaçlı yazılımların olasılığını ortaya koyuyor.
Birçok uzmana göre bu, siber suç teknolojisinde yalnızca kademeli bir iyileşmeyi değil, dijital savaşta yeni bir dönemin potansiyel başlangıcını temsil ediyor; bu dönemde saldırganlar, minimum insan müdahalesiyle küresel ağlardaki zayıf noktaları avlayabilen otonom yapay zeka ajanlarını konuşlandırıyor.
Kaynak : 