KPMG Türkiye Bilgi Sistemleri Risk Yönetimi Bölüm Başkanı Sinem Cantürk, Hollanda’nın okullarda daha adil ve eşitlikçi bir öğrenci yerleştirme sistemi oluşturulması için yapay zeka denemelerine başladığını söyledi. Popüler okullarda yığılma yaşanmasını önlemeyi ve tüm çocuklar için eşit fırsat yaratmayı amaçlayan sistemin algoritmalarını KPMG denetliyor. Hollanda’daki pilot uygulamanın ‘yapay zeka’nın güvenliğini de test ettiğini belirten Cantürk, yapay zekada güvence algısının önemini şöyle anlattı:
“Şirket itibarının ve marka algısının, müşteri memnuniyeti ve sadakatinin, bunun ötesinde piyasa değerinin temelini oluşturan güven duygusu, işletmelerin başarı ya da başarısızlığının altında yatan belirleyici faktörlerden biri. Öte yandan, iş dünyasında genel anlamda veri analizinin, özel olarak da yapay zekanın giderek daha fazla yaygınlaşmasıyla birlikte, makineler ve algoritmalar güven denkleminin kayda değer bir unsuruna dönüşüyor.
Bu durum, tüm organizasyonlar için ciddi sorular doğuruyor. Çünkü rekabet üstünlüğü elde etmek için yapay zeka yoluyla teknolojik yarış içine giren şirketler, güvendikleri veri ve algoritmaların giderek daha karmaşık ve belirsiz hale gelmesine rağmen daha yüksek risk seviyelerine ulaşmaya hazır değil. Bunun sonucunda da, yetkililerin kendi yaratmadıkları ve tam olarak anlamadıkları bir algoritmanın çıktılarına dayanarak önemli kararlar almaya zorlandıkları durumlar oluşabilir”.
Hollanda’da okullardaki uygulamanın, yapay zekanın kullanım alanlarında örnek olacağını vurgulayan Cantürk, yapay zekanın gerçek anlamda dönüştürücü olması için işleyişine güven duymak gerektiğini kaydetti. Cantürk şunları belirtti :
“Bu nedenle kapsamlı bir yapay zeka güvence modelinin çok önemli olduğunu düşünüyorum. Bu model, algoritmaların güvenilir olmasını, sistemin siber saldırılara karşı güvenli olmasını, BT süreçleri ve kontrollerinin doğru uygulanmasını, veri yönetiminin doğru kurgulanmasını ve makine öğrenimi etiğini kavrayan bir yönetişim yapısının oluşturulmasını sağlayarak güven inşa etmelidir. Makine yönetişimi insan yönetişiminden temelde farklı olmadığı gibi, şirketlerin yapısına ve süreçlerine entegre edilmeli. Böylece, yapay zeka kararlarından etkilenen kişiler, bağımsız olarak denetlenen algoritma sayesinde çocukları için daha adil bir okul seçimine kavuşacak olan Hollandalı aileler kadar sisteme inanç duyacaklardır”.
Kaynak : 