İngiliz hükümeti ülkesine gelecek kişilere vize vermek için 2015 yılından bu yana kullandığı yazılımı askıya aldı ve yeniden tasarlamayı planlıyor. Çünkü yazılımın önyargı ve ırkçılık yaratan bir algoritmaya sahip olduğu endişeleri var. İngiliz hükümetinin vize sistemini yeniden tasarımının sonbaharda tamamlanması planlanıyor.
Göçmen Refahı Ortak Konseyi (JCWI) ve kampanyanın hukuk firması Foxglove, vize uygulaması algoritmasının hukuksuz olduğu iddiasıyla mahkemeye başvurmuş ve durdurulması talebinde bulunmuştu. Gerçi hukuki açıdan başarılı olunması ama yine de İngiliz İçişleri Bakanlığı sistemi yeniden ele almak zorunda kaldı.
İngiliz yetkililer, vize işleminde mill önyargı iddialarını kabul etmemelerine rağmen, hukuk bürosuna bir mektup yazarak şöyle dedi :
“Yeniden tasarım yapmamız, talep formunuzdaki iddiaları kabul ettiğimiz anlamına gelmez. ”
Genel açıklamalarında ise şunu ifade ettiler;
“JCWI’nin iddialarının kabul etmiyoruz. Ama dava devam ederken Bakanlığın daha fazla yorum yapması uygun olmayacaktır”
Göçmenlerin derneği JCWI ise “bilgisayar güdümlü, ne yaptığı belirsiz insan eleme sistemi” olarak nitelendirdiği sürece karşı kazandıklarını ilan etti [2]:
“Birleşik Krallık’ın algoritmik bir karar sistemine karşı ilk başarılı dava oldu. Mahkemeden, vize algoritmasını yasadışı ilan etmesini ve gözden geçirilmeyi bekleyen vize başvurularını değerlendirmek için kullanımını durdurmalarını istemiştik. İçişleri Bakanlığının yeniden tasarlama kararı iddiayı etkili bir şekilde onaylıyor.”
Vize İçin Trafik Işıkları Sistemi
JCWI’nin şikayeti, İngiltere’nin her giriş vizesi başvurusunu değerlendirmek için kullandığı “trafik ışığı sistemi” olarak tanımlanan bir algoritmanın kullanımı ile ilgili. Bu sistem vize için başvuranları “Kırmızı, Sarı veya Yeşil risk derecelendirmesi” ile işaretliyor. Bu derecelendirme vize başvurusunun sonucunu belirlemede önemli bir rol oynuyor.
Bu algoritmanın belli milliyetlere karşı ırkçı ve ayrımcı davrandığı kaydediliyor. Şüpheli’ uyruklu kişiler tarafından yapılan başvuruların daha yüksek risk puanı aldığı ve reddedilme olasılığının yükseldiği görülmüş. Ancak İngiliz İçişleri Bakanlığı, gizli bir şüpheli milliyet listesinin varlığını kabul etmekle beraber algoritma hakkında bilgi vermeyi reddetmiş. Başvuruları derecelendirmek için başka hangi faktörlerin kullanıldığı da belirsiz.
İngiliz İçişleri Bakanlığının 2012 yılından beri açıkça “düşmanca ortam” olarak bilinen bir göç politikası uyguladığı ve insanların İngiltere’de kalmasını mümkün olduğunca zorlaştırmayı amaçlayan idari ve yasal süreçleri uyguladığı, bu politikanın da bazı insan hakları skandallarına yol açtığı [3] kaydediliyor.
Benzer bir olay, şubatta Hollanda hükümetinin başına geldi. Yerel bir mahkeme insan hakları çerçevesinde, sosyal güvenlik talebi yapanların fayda veya vergi sahtekarlığı yapma olasılığını tahmin etmek için kullanılan algoritmik risk puanlama sistemini durdurdu.
[1]The Joint Council for the Welfare of Immigrants (JCWI)