Büyük dil modelleri (LLM’ler) savunma kabiliyetlerini güçlendirirken, aynı zamanda tehdit aktörleri için yeni fırsat alanları da yaratıyor.
Deepfake teknolojileri ana akım haline gelirken, bu alandaki farkındalık da artmaya devam ediyor. Şirketler, sentetik içeriklerin yarattığı riskleri daha sık gündeme alıyor ve çalışanlarını bu tür saldırılara karşı bilinçlendirmeye yönelik eğitimlere yatırım yapıyor. Deepfake’lerin hacmi arttıkça, ortaya çıktıkları formatlar da çeşitleniyor. Aynı zamanda farkındalık yalnızca kurumlarla sınırlı kalmıyor; bireysel kullanıcılar da sahte içeriklerle daha sık karşılaşıyor ve bu tehditlerin doğasını daha iyi kavrıyor. Bu gelişmelerle birlikte deepfake’ler, güvenlik gündeminin kalıcı bir unsuru haline geliyor ve sistematik eğitim programları ile kurumsal politikalar gerektiriyor.
Deepfake’lerin kalitesi, özellikle ses teknolojilerindeki ilerlemeler ve kullanım bariyerlerinin düşmesiyle daha da artacak. Görsel kalite halihazırda oldukça yüksek bir seviyedeyken, gerçekçi ses üretimi önümüzdeki dönemin ana gelişim alanı olarak öne çıkıyor. Öte yandan içerik üretim araçlarının giderek daha kullanıcı dostu hale gelmesi, teknik bilgiye sahip olmayan kişilerin bile birkaç tıklamayla orta düzeyde deepfake içerikler oluşturabilmesini mümkün kılıyor. Bu durum, ortalama kaliteyi yükseltirken üretimi çok daha geniş bir kitle için erişilebilir hale getiriyor ve bu yeteneklerin siber suçlular tarafından kullanılmaya devam etmesi kaçınılmaz görünüyor.
Çevrim içi deepfake teknolojileri gelişimini sürdürecek ancak büyük ölçüde ileri seviye kullanıcıların aracı olmaya devam edecek. Gerçek zamanlı yüz ve ses değiştirme teknolojileri ilerleme kaydetse de, bu sistemlerin kurulumu hâlâ ileri teknik beceriler gerektiriyor. Yaygın kullanım kısa vadede olası görünmese de, hedefli saldırı senaryolarında riskler artacak. Artan gerçekçilik ve sanal kameralar üzerinden video manipülasyonu yapılabilmesi, bu tür saldırıları daha inandırıcı hale getiriyor.
Yapay zekâ ile üretilen içeriklerin etiketlenmesine yönelik güvenilir bir sistem oluşturma çabaları da sürecek. Sentetik içeriklerin tespitine yönelik ortak ve bağlayıcı kriterler henüz mevcut değil; mevcut etiketleme yöntemleri ise özellikle açık kaynak modeller kullanıldığında kolaylıkla aşılabiliyor veya kaldırılabiliyor. Bu nedenle, soruna çözüm getirmeyi amaçlayan yeni teknik ve düzenleyici girişimlerin gündeme gelmesi bekleniyor.
Açık kaynaklı (open-weight) modeller, siber güvenlikle ilgili birçok görevde kapalı modellere hızla yaklaşarak kötüye kullanım potansiyelini artırıyor. Kapalı modeller, daha sıkı kontrol mekanizmaları ve güvenlik önlemleri sunarak suistimali sınırlıyor. Buna karşın açık kaynaklı sistemler, hızla gelişiyor ve benzer kısıtlamalar olmaksızın dolaşıma giriyor. Bu durum, tescilli modeller ile açık kaynak modeller arasındaki farkı bulanıklaştırıyor; her iki yaklaşım da istenmeyen ya da kötü niyetli amaçlar için etkili biçimde kullanılabiliyor.
Meşru ve dolandırıcılık amaçlı yapay zekâ üretimi içerikler arasındaki sınır giderek daha belirsiz hale gelecek. Yapay zekâ bugün dahi ikna edici dolandırıcılık e-postaları, gerçekçi görsel kimlikler ve yüksek kaliteli oltalama (phishing) sayfaları üretebiliyor. Aynı zamanda büyük markalar, reklam ve pazarlama faaliyetlerinde sentetik içerikleri giderek daha fazla kullanıyor ve bu durum, yapay zekâ üretimi görsellerin “normal” ve tanıdık algılanmasına yol açıyor. Sonuç olarak, gerçek ile sahteyi ayırt etmek hem kullanıcılar hem de otomatik tespit sistemleri için daha da zorlaşacak.
Yapay zekâ, siber saldırılarda zincirler arası bir araç haline gelecek ve saldırı yaşam döngüsünün (kill chain) büyük bölümünde kullanılacak. Tehdit aktörleri hâlihazırda LLM’leri kod yazımı, altyapı kurulumu ve operasyonel süreçlerin otomasyonu için kullanıyor. Önümüzdeki dönemde bu eğilim daha da güçlenecek; yapay zekâ, hazırlık ve iletişim aşamalarından kötü amaçlı bileşenlerin oluşturulmasına, zafiyet taramalarından araçların devreye alınmasına kadar saldırının birçok aşamasını destekleyecek. Saldırganlar ayrıca yapay zekâ kullanımına dair izleri gizlemeye çalışacak ve bu da bu tür operasyonların analiz edilmesini daha zor hale getirecek.
Kaspersky Araştırma ve Geliştirme Grubu Yöneticisi Vladislav Tushkanov konuyla ilgili olarak şunları söylüyor:
“Yapay zekâ araçları siber saldırılarda kullanılırken, aynı zamanda güvenlik analizlerinin de giderek daha yaygın bir parçası haline geliyor ve SOC ekiplerinin çalışma biçimini dönüştürüyor. Ajan tabanlı sistemler, altyapıları sürekli olarak tarayarak zafiyetleri tespit edebilecek ve soruşturmalar için bağlamsal bilgiler toplayabilecek; böylece manuel ve tekrarlayan iş yükü önemli ölçüde azalacak. Bunun sonucunda uzmanlar, veri aramak yerine önceden hazırlanmış bağlam üzerinden karar almaya odaklanacak. Paralel olarak güvenlik araçları, karmaşık teknik sorgular yerine doğal dilde komutlarla çalışılan arayüzlere evrilecek.”
Kaynak : 