50’den fazla önde gelen ABD siber güvenlik lideri, Beyaz Saray’ı Anthropic’in en gelişmiş yapay zeka modelleri olan Mythos 5 ve Fable 5’e getirilen kısıtlamaları geri çekmeye çağırdı ve bu kararın Amerika’nın siber savunmasını zayıflattığını, saldırganları durdurmak için ise çok az şey yaptığını savundu. Bilgi Güvenliği Sorumlularının (CISO’lar), güvenlik araştırmacıları ve Adobe, Zoom, Sophos ve Nvidia gibi şirketlerden yöneticiler tarafından imzalanan açık mektupta, yasağın düşmanlardan çok savunmacılara zarar verdiği iddia ediliyor.
Tartışma, ABD hükümetinin ulusal güvenlik endişeleri nedeniyle Anthropic’in öncü yapay zeka modellerine erişimi kısıtlama kararına dayanıyor. Yetkililerin, sistemlerin “kırılabileceğinden” veya kritik altyapı ve ulusal güvenliğe tehdit oluşturabilecek düzeyde yazılım güvenlik açıklarını belirlemeye ve istismar etmeye yardımcı olmak için manipüle edilebileceğinden korktuğu bildiriliyor. Anthropic daha sonra, yabancı uyruklular da dahil olmak üzere geniş bir kullanıcı yelpazesi için hem Mythos 5 hem de Fable 5’e erişimi devre dışı bırakmak zorunda kaldı.
Güvenlik Topluluğu: Yasak Yanlış Sorunu Çözüyor
Siber güvenlik topluluğunun argümanı basittir: saldırganlar zaten benzer araçlara erişebiliyor. Mektuba göre, hükümet yetkililerini alarma geçiren yetenekler Anthropic’in modellerine özgü değil. Benzer işlevsellik, rakip Amerikan modelleri ve giderek artan sayıda Çin ve açık kaynaklı alternatif de dahil olmak üzere diğer gelişmiş yapay zeka sistemlerinde de mevcut. Bu nedenle, Mythos 5 ve Fable 5’i kısıtlamanın, saldırgan siber yetenekleri azaltmak için çok az şey yaptığını, meşru savunmacıları mevcut en etkili araçlardan bazılarından mahrum bıraktığını savunuyorlar.
İmza sahipleri, güvenlik ekiplerinin yazılım güvenlik açıklarını belirlemek, kötü amaçlı kodu analiz etmek, sızma testleri yapmak ve kritik altyapıyı savunmak için giderek daha fazla gelişmiş yapay zeka sistemlerine güvendiği konusunda uyarıyor. En ileri modellere erişimin kaldırılması, yapay zeka destekli siber saldırılar daha karmaşık hale gelirken savunma araştırmalarını yavaşlatabilir.
Facebook’un eski Baş Güvenlik Sorumlusu Alex Stamos ve diğer destekçiler, hükümetin bu eyleminin, ABD güvenlik uzmanlarının gelişmiş savunma araçlarını ellerinden alırken, düşmanları büyük ölçüde etkilemediğini savunuyor.
Beyaz Saray Neden Harekete Geçti?
Yönetimin endişeleri, Anthropic’in modellerinin güvenlik önlemlerine rağmen güvenlik açığı bilgilerini ifşa edebileceğine dair raporlardan kaynaklanıyor. Yetkililerin, riski acil kısıtlamaları ve ihracat kontrollerini haklı çıkaracak kadar önemli gördüğü bildiriliyor. Bazı raporlar, büyük teknoloji şirketleri ve devlet kurumları tarafından dile getirilen endişelerin karara katkıda bulunduğunu gösteriyor.
Bu hamle aynı zamanda Washington’ın yapay zeka politikasındaki daha geniş bir değişimi de yansıtıyor. Beyaz Saray, giderek artan bir şekilde, gelişmiş yapay zeka modellerini, yaygın olarak kullanılmadan önce hükümet gözetimi gerektirebilecek potansiyel ulusal güvenlik varlıkları olarak çerçevelendiriyor. Anthropic’in kendisi de daha önce gelişmiş modellerin daha güçlü yapay zeka güvenlik testlerini ve hükümet incelemesini savunmuştu.
Yapay Zeka Düzenlemesi Üzerine Mücadele
Tartışma, hükümetlerin güçlü yapay zeka sistemlerini nasıl düzenlemesi gerektiği konusunda geniş bir tartışmaya dönüştü. Kısıtlamaların destekçileri, yazılım güvenlik açıklarını keşfedebilen öncü modellerin, düşman devletler, siber suç grupları veya terör örgütleri erişim sağladığında tehlikeli hale gelebileceğini savunuyor. Büyük bir olay yaşanmadan önce önlemlerin uygulanmasının sorumsuzluk olacağını iddia ediyorlar.
Eleştirmenler ise hükümetin Mythos 5 veya Fable 5’in halihazırda başka yerlerde mevcut olanlardan önemli ölçüde daha üstün yeteneklere sahip olduğunu kanıtlamadığını belirtiyor. Kısıtlamaların yapay zeka şirketleri için belirsizlik yarattığını, uluslararası müşteriler arasında güveni zedelediğini ve nihayetinde kullanıcıları daha az kısıtlamayla karşılaşan yabancı veya açık kaynaklı modellere yönelmeye teşvik edebileceğini savunuyorlar.
Yapay Zeka Sektörü İçin Etkileri
Bu anlaşmazlık, bugüne kadar ticari yapay zeka pazarındaki en agresif hükümet müdahalelerinden birini temsil ettiği için teknoloji sektöründe yakından izleniyor. Kısıtlamalar yürürlükte kalırsa, ulusal güvenlik riski oluşturduğu düşünülen gelişmiş yapay zeka modellerine karşı gelecekteki hükümet eylemleri için bir emsal oluşturabilir.
Bu dava ayrıca yapay zeka güvenliği, siber güvenlik ve jeopolitik rekabet arasındaki artan gerilimleri de vurguluyor. Washington tehlikeli yeteneklerin yayılmasını önlemeye çalışırken, birçok güvenlik uzmanı, önde gelen savunma araçlarının kısıtlanmasının, hükümetin korumaya çalıştığı siber direnci istemeden zayıflatabileceğini savunuyor.
Anthropic, Washington’daki federal yetkililerle görüşmelerine devam ederken, Mythos 5 ve Fable 5 anlaşmazlığının sonucu, Amerika Birleşik Devletleri’nin önümüzdeki yıllarda yapay zeka inovasyonu, ulusal güvenlik ve siber güvenlik arasında nasıl bir denge kuracağını belirlemeye yardımcı olabilir.
Kaynak : 