Avrupa Komisyonu, yapay zeka ürünleri için yeni bir dizi düzenleme açıklamaya hazırlanıyor[1]. Yasa tasarısı “Birlik değerlerine aykırı veya temel hakları ihlal eden” sistemleri yasaklamaya hazırlanıyor. Bazı yapay zeka teknolojileri tamamen yasaklanırken, diğer potansiyel olarak zararlı sistemler, geliştiricilerin bunları halka açıklayabilmesinden önce bir inceleme sürecinden geçmeye zorlanacak.
Tasarı kabul edilirse, yüz tanıma ve sosyal kredi sistemleri gibi “yüksek riskli” operasyon alanlarında yer alan yapay zeka destekli sistemler tarafından yapılan potansiyel zararı engellemeye yönelik hazırlanıyor. Komisyon açıklamasında şunu söyledi [2]:
“Bu yasa teklifi, yüksek riskli yapay zekam sistemlerini, güvenilirlikleriyle ilgili zorunlu gereksinimleri karşılamaya zorlayarak. temel AB değerlerini ve haklarını ve kullanıcı güvenliğini korumayı amaçlayacaktır. Örneğin, yapay zekanın yetenekleri ve sınırlamaları konusunda muutlaka bir insan gözetimi / kontrolü istenecek.”
Yeni tasarı, AB’nin yapay zeka için etik kurallarını detaylandıran 2019 teknik raporu [3] da dahil olmak üzere, yıllardır yapılan inceleme ve araştırmalar sonucu oluşturulmuş. Bu tür bir yasanın tam olarak ne zaman geçeceği şu anda belli değil, AB sadece “2021” şeklinde bir zaman tanımlamış.
Tasarı, yapay zeka ve yüz tanıma gibi teknolojilerde uzmanlaşmış büyük teknoloji şirketlerini ya da orta ölçekli şirketleri hedefliyor.
Avrupa Komisyonu, bir yapay zeka uygulamasının, hem yüksek riskli bir sektörü (sağlık hizmetleri, ulaşım, enerji ve kamu sektörünün bazı kısımları) hem de yüksek riskli kullanımı içeriyorsa, birkaç istisna dışında, yüksek riskli olarak kabul edilmesi gerektiğini söylüyor. Komisyon, Facebook’un politik reklamcılığının yüksek riskli yapay zeka uygulamalarına en iyi örnek olduğunu söylüyor [4] :
“Reklam, düşük riskli bir sektördür ve Facebook’un haber toplama işlevi düşük riskli bir kullanım olarak kabul edilebilir. Ancak, seçim kampanyaları sırasında yapay zekanın yardımıyla ortaya çıkan sahte haberler ve derin sahte haberler, Facebook üzerinde olumsuz etkiler yaratabilir. Bu da insanların Avrupa dışından bile müdahaleyle oy kullanma biçimini etkileyebilir”.
[1] European Commision Hig Risk AI Ban
[2] A European approach to Artificial intelligence
[3] Ethics guidelines for trustworthy AI
[4] Artificial Intelligence: EU law should set safe boundaries for high-risk applications, says EESC
Kaynak : 