OpenAI’da donanım ve robotik mühendisliğine liderlik eden Caitlin Kalinowski, gelişmiş yapay zeka sistemlerinin iç gözetim ve ölümcül otonom silahlarda potansiyel kullanımına ilişkin etik endişeleri gerekçe göstererek görevinden ayrıldı.
Kalinowski istifasını duyuran açıklamada, kitlesel gözetimi veya anlamlı insan kontrolü olmadan ölümcül kararlar alabilen yapay zeka destekli silahların konuşlandırılmasını mümkün kılan teknolojilere katkıda bulunabilecek projeleri artık destekleyemeyeceğini söyledi.
Bu ayrılık, şirketin yazılım modellerinin ötesine geçerek robotik ve yapay zeka destekli cihazlara yönelmesinden bu yana OpenAI’nin donanım çalışmalarındaki en yüksek profilli istifalardan birini oluşturuyor.
Yapay Zeka Askerileştirilmesine İlişkin Etik Endişeler
Kalinowski, yapay zeka araştırmaları ile ulusal güvenlik uygulamaları arasındaki artan kesişim konusunda şirket içinde endişelerini daha önce dile getirmişti. Açıklamasında, yapay zekâ destekli sensörler, robotik ve otomatik karar sistemlerindeki hızlı gelişmelerin, hükümetlerin veya özel aktörlerin büyük ölçekli izleme sistemleri veya otonom silah platformları konuşlandırmasını kolaylaştırabileceği konusunda uyardı.
Kalinowski’nin bildirdiğine göre, “Bu teknolojiler muazzam bir güce sahip. Güçlü güvenlik önlemleri olmadan sivil özgürlükleri baltalayabilir veya ölümcül otonom sistemlerin gelişimini hızlandırabilirler.”
Savunmada Yapay Zekânın Genişleyen Rolü
İstifası, dünya genelindeki hükümetlerin askeri ve istihbarat amaçlı yapay zekâya yatırımlarını artırdığı bir dönemde gerçekleşti. ABD savunma kurumları, yapay zekânın şu alanlarda kullanımını araştırıyor:
- savaş alanı karar destek sistemleri
- otonom dronlar
- istihbarat analizi
- gözetim sistemleri
Microsoft, Amazon, Google ve OpenAI dahil olmak üzere teknoloji şirketleri, teknolojilerinin savunma ve güvenlik bağlamlarında nasıl kullanılacağı konusunda iç tartışmalarla karşı karşıya kaldı.
OpenAI’nin Artan Donanım Hedefleri
OpenAI, son yıllarda ChatGPT gibi yazılım modellerinin ötesine geçerek, yapay zeka sistemlerini fiziksel cihazlarla entegre etmeyi amaçlayan donanım ve robotik araştırmalarına yönelmeye başladı.
Kalinowski, yapay zeka destekli robotik platformları ve fiziksel dünyayla etkileşime girebilen sensör sistemlerini keşfetmesi beklenen bu girişimlere liderlik etmekten sorumluydu. Şirket henüz bir halef açıklamadı veya donanım programlarının değişmeden devam edip etmeyeceğini netleştirmedi.
Daha Geniş Bir Teknoloji Endüstrisi Tartışmasının Parçası
İstifa, teknoloji endüstrisi içinde yapay zekanın askeri ve gözetim sistemlerindeki rolüyle ilgili devam eden etik tartışmayı ortaya koyuyor. Benzer tartışmalar geçmişte Google gibi şirketlerde de ortaya çıkmıştı; burada çalışanların protestoları, şirketin Pentagon’un Project Maven olarak bilinen insansız hava aracı analiz projesinden çekilmesine yol açmıştı.
Hükümetler yapay zekayı savunma sistemlerine entegre etmek için yarışırken, uzmanlar ticari teknoloji geliştirme ile etik güvenceler arasındaki gerilimlerin muhtemelen yoğunlaşacağını söylüyor.
OpenAI için Kalinowski’nin ayrılışı, hızlı yapay zeka inovasyonunu, bu teknolojilerin nihayetinde nasıl kullanılabileceğine dair endişelerle dengelemenin giderek artan zorluklarının altını çiziyor.
Kaynak : 