Hayatımıza internet girdiğinden bu yana George Orwell’in “1984” kitabını daha fazla anıyoruz. Çünkü her seferinde “hah bu işte Big Brother” derken, dünya daha derine gömülüyor. Şimdi New York Times başta, bir çok basın kuruluşu internete sızan belgeler üzerinden Çin’deki muhalifleri tespit etmeye yönelik olarak yazılım geliştiren Geedge firmasından bahsediyor.
Resmi olarak doğrulanmış olmamasına rağmen, “Geedge belgeleri” diye bilinen konu, son dönemde internete sızdığı iddia edilen ve AI destekli gözetim ve takip altyapılarını anlattığı söylenen bazı teknik dokümanlar ve ekran görüntülerine verilen gayriresmî isim. Çeşitli gözetim ve veri analizi platformlarına ait olduğu iddia edilen doküman kümeleri olarak tanımlanıyor. Bunlar OSINT araştırmacıları, siber güvenlik toplulukları, gazeteciler tarafından ve Reddit ile X üzerindeki bazı analizlerle ortaya konuldu.
Yapay zeka, benim hakkımda devlet adına karar vermeye mi başlıyor?
Belgelerde anlatıldığı söylenen sistemler yüz tanıma, telefon meta data takibi, sosyal ağ haritalama, lokasyon analizi ve ilişki analizi üzerinden protestocu ve muhalif kümelerinin tespiti, “risk puanı” çıkarılması, göçmen hareketlerinin izlenmesi ve yapay zeka ile davranış tahmini konularında çalışıyor.
Yani klasik “kişiyi izleme”den çok, “toplum içindeki bağlantıları ve potansiyel risk ağlarını analiz etme” mantığı ile çalışıyor. Bu sistemlerin benzerleri, batıda da mevcut. Palantir benzeri veri füzyon platformları, davranış tahmini yazılımları, sınır koruma ve karşı terör uygulamaları yapıyor.
En kritik fark şu; eski gözetim sistemleri geçmişi kaydediyordu. Yeni yapay zekalı sistemleri ise,gelecekte ne olabileceğini tahmin etmeye, kimlerin “riskli” olabileceğini öngörmeye, ilişki ağlarından davranış çıkarmaya çalışıyor. Bu yüzden tartışma artık, “Devlet beni izliyor mu?” seviyesinden, “Yapay zeka, benim hakkımda devlet adına karar vermeye mi başlıyor?” seviyesine geçmiş durumda.
Bu konu dünya çapında çok önemli ama yeterince konuşulmuyor. Yapay zekâ bir dönüşüm yaşıyor. Artık yalnızca sohbet eden ya da içerik üreten bir teknoloji değil; devletlerin insanları izlemesini, analiz etmesini ve sınıflandırmasını sağlayan bir sistem haline geliyor.
Çin’de yüz tanıma ve davranış analizi sistemleri, ABD’de Palantir ve göçmen takip altyapıları, Avrupa’da dijital kimlik ve sınır kontrol projeleri, İsrail’de yapay destekli ve özellikle Gazze’de kullanılan hedefleme sistemleri derken artık devletler milyarlarca veri noktasını yani “büyük veri” dediğimiz verileri gerçek zamanlı analiz edebiliyor. Özellikle muhalifler, göçmenler, “riskli” görülen gruplar ya da potansiyel tehdit kabul edilen kişiler yapay zeka sistemleriyle daha kolay takip edilebilir hale geliyor.
Potansiyel Riskli İnsanı Önceden Tespit Etme
Anlayacağınız kendimizi “Minority Report“dakine benzer bir durumda bulmaya başladık. Bu nedenle “öngörülerle yönetişim (predictive governance)” denilen yani insanların gelecekte ne yapabileceğini tahmin etmeye çalışan yapay zeka sistemleri yayılıyor. Çok daha ilkelini, Cambridge Analytica’nın Facebook verileri ile Trump’a ilk dönem ABD başkanlığını kazandırması sırasında görmüştük.
Yani batı basını bugün “otoriter devletler” başlığı ile sunuyor ama sorun sadece Çin’de değil, ABD’de de şunlar var;
- Palantir,
- ICE veri sistemleri,
- Predictive policing,
- NSA veri analizi,
- Göçmen takip sistemleri,
Avrupa’da:
- Dijital kimlik projeleri,
- Sınır yapay zeka sistemleri,
- Yüz tanıma tartışmaları,
İsrail’in ağırlıklı Gazze’de kullandığı :
- Lavender,
- Gospel,
- Hedefleme yapay zekaları
gibi örneklerle tüm dünyada devletler yapay zeka destekli gözetim kapasitesini büyütüyor. Çünkü yapay zeka ilk kez milyarlarca veri noktasını gerçek zamanlı analiz edip, ilişki ağı çıkarabiliyor, davranış tahmini yapabiliyor, “anomali” saptayabiliyor ve böylece muhalif kümeleri, göç hareketlerini, toplumsal eğilimleri ölçebiliyor.
Papa Uyardı : Dünya Görünmez bir Dijital Kontrol Sistemine Dönüşebilir
Biz bayram haftasındayken, Papa Leo XIV, yapay zeka konusunda çok önemli bir genelge (ansiklik) yayınladı. Bu genelge tam da yukarıda not aldığımız konular yüzünden, tarihsel olarak çok önemli görülüyor.
Çünkü Vatikan ilk kez yapay zeka meselesini sadece teknoloji değil; insan özgürlüğü, insan onuru ve dijital tahakküm sorunu olarak tanımladı. Papa’nın mesajı aslında şu: “İnsan kararları, eğer algoritmalara bırakılırsa, dünya görünmez bir dijital kontrol sistemine dönüşebilir”.
Bu açıklama, 135 sene önce zamanın Papası tarafından Sanayi Devrimi sırasında yayınlanan ve işçi haklarını savunan ünlü Rerum Novarum genelgesine benzetiliyor. O dönem nasıl fabrikalar ve sanayi düzeni tartışılıyorsa, bugün de yapay zeka çağının insan hakları ve özgürlük sınırları tartışılmaya başlanıyor.
Bu yüzden Papa Leo XIV’ün açıklaması sembolik olarak çok önemli. Çünkü Papa’nın vurguladığı şey tam da buydu: “İnsan kararlarının algoritmalara bırakılması.” Vatikan ilk kez yapay zekayı sadece teknoloji değil, insan onuru, özgür irade dolayısıyla toplumsal baskı, dijital tahakküm ve algoritmik güç tekeli meselesi olarak tanımladı. Bu açıdan Papa’nın çıkışı, Sanayi Devrimi sırasında işçi haklarını savunan Rerum Novarum kadar tarihsel bir etik müdahale olarak görülüyor.
Papa’nın genelgesi, Trump Amerika’sında ya da dünyanın geri kalan yapay zeka geliştirmelerinde bir etki yaratır mı? İşe yarar mı? Tek başına sistemi durdurması zor. Çünkü yapay zeka gözetimi artık güvenlik, savaş, göç, finans, seçim güvenliği, kamu düzeni başlıklarıyla devletlerin merkezine yerleşmiş durumda.
Ama Papa’nın açıklaması önemli çünkü ilk kez küresel ölçekte güçlü bir dini ve etik otorite,“yapay zeka yalnızca verimlilik meselesi değildir; insan özgürlüğü meselesidir” demiş oldu. Muhtemelen yakın gelecekte yapay zeka tartışmaları artık teknik değil, doğrudan hukuk, insan hakları, dijital vatandaşlık, algoritmik egemenlik ve özgürlük ekseninde yürümeye başlayacak.
Kaynak : 