Uluslararası danışmanlık, denetim, güvence, strateji, kurumsal finansman ve vergi hizmetleri şirketi EY, Responsible AI Araştırması’nı yayımladı. Küresel çapta 21 ülkeden çeşitli sektörlerde faaliyet gösteren şirketlerin katıldığı araştırma kapsamında elde edilen bulgular, gelişmiş düzeyde sorumlu yapay zekâ (AI) önlemleri uygulayan şirketlerin rekabet avantajında öne geçtiğini gösteriyor. Bununla birlikte, araştırmaya katılan şirketlerin neredeyse tamamı; AI ile ilgili risklerden kaynaklanan maliyet baskılarıyla karşılaştıklarını belirtiyor. Şirketlerin yapay zekâ ile ilgili riskler için karşılaştıkları ortalama maliyet 4,4 milyon doları buluyor. Ancak henüz her 10 üst düzey liderden yalnızca 1’i bu riskleri nasıl etkin bir şekilde kontrol edeceği konusunda hazırlıklı görünüyor. En yaygın riskler ise, yapay zekâ düzenlemelerine uyumsuzluk (%57), sürdürülebilirlik hedeflerine olumsuz etkiler (%55) ve önyargılı çıktılar (%53) olarak sıralanıyor.
Responsible AI, Etik Riskleri En Aza İndirmeyi Hedefliyor
Responsible AI (Sorumlu yapay zekâ), sistemleri geliştirirken ve kullanıma sunarken etik riskleri en aza indirgemeyi hedefleyen bir şablonu temsil ediyor. Yapay zekâ sistemlerinin toplum üzerindeki avantajları ve olası zararları göz önünde bulundurularak planlama sürecinde kişilerin önceliklendirilmesi amaçlanıyor. Bu noktadan yola çıkılarak gerçekleştirilen EY araştırması’na katılan üst düzey yöneticilerin büyük çoğunluğu, şirketlerinde sorumlu yapay zekâ uygulamalarına dair 10 önlemden 7’sini hayata geçirdiklerini belirtiyor. Araştırmada öne çıkan diğer bulgular ise şöyle sıralanıyor: Araştırmaya katılanların %81’i bu uygulamalar sonrasında şirketlerinin inovasyonu hızlandırdığını, %79’u ise verimlilik ve üretkenlik elde ettiğini belirtiyor. Katılımcıların yaklaşık yarısı da gelir artışı (%54), maliyet tasarrufu (%48) ve çalışan memnuniyeti (%56) gibi kazanımlar elde ettiklerini ifade ediyor. Uygulamaların benimsenme oranının ise teknoloji, medya ve telekomünikasyon sektöründe daha da yüksek olduğu görülüyor. Bu sektörde, temel hizmetlerin sunumu büyük ölçüde teknoloji ve veriye dayandığı için sorumlu yapay zekâ uygulamaları kritik önem taşıyor.
Yapay Zekânın Etkili Uygulanmasında Kontrol Noktalarının Belirlenmesi Gerekiyor
Araştırmada, birçok üst düzey liderin AI ile ilgili riskleri azaltmak için doğru kontrolleri nasıl uygulayacakları konusunda henüz net olmadığı görülüyor. Araştırmada ele alınan beş yapay zekâ riskine karşı uygun kontrol tanımlarının nasıl olması gerektiğine dair üst düzey yöneticilerin yalnızca %12’sinin doğru yanıt verdiği görülüyor. Yapay zekâ risklerinde nihai sorumlu olan risk yöneticileri ise %11 ile ortalamanın altında kalıyor. Çalışanların yapay zekâ faaliyetleri yaygınlaştıkça, bu risklere yönelik uygun kontrol ihtiyacının da artması bekleniyor.
Ayrıca bazı şirketler, çalışanların bağımsız olarak yapay zekâ araçları geliştirme veya kullanmasıyla ilgili artan bir taleple karşı karşıya. Araştırmaya katılan şirketlerin üçte ikisi, bu tür faaliyetlere izin veriyor; ancak bunların sadece %60’ı bu araçların sorumlu yapay zekâ ilkelerine uygun şekilde kullanıldığından emin olmak için resmi politika ve çerçevelere sahip.
Araştırmada yöneticilerin yapay zekâ yönetişimi ve kontrol mekanizmalarını güçlendirmek ve iş sonuçlarını iyileştirmek için atabilecekleri üç adım şu şekilde belirtiliyor:
1. Sorumlu Yapay Zekâya Yönelik Kapsamlı Bir Yaklaşım Benimsenmesi:
Yapay zekâ yatırımlarından, özellikle finansal performans ve çalışan memnuniyeti gibi kritik alanlarda daha fazla değer elde etmek için şirketlerin yapay zekânın etik ve güvenilir kullanım yolculuğunda ilerlemesi gerekiyor. Kapsamlı bir yaklaşım; sorumlu yapay zekâ ilkelerinin net bir şekilde tanımlanmasını ve paylaşılmasını, bu ilkelerin kontrol mekanizmaları, anahtar performans göstergeleri (KPI’lar) ve eğitimlerle uygulanmasını içeriyor.
2. Üst Yönetimde Yapay Zekâya Yönelik Bilgi Seviyesinin Güçlendirilmesi:
Yapay zekâ, organizasyonları her açıdan etkiliyor. Bu nedenle, üst düzey yöneticilerin bu yenilikçi teknolojinin sunduğu potansiyeli ve beraberinde getirdiği riskleri anlaması kritik önem taşıyor. Bu kapsamda, en büyük bilgi eksikliklerin nerede olduğunun belirlenmesi ve hedefe yönelik eğitimlerle organizasyonda bu alanların güçlendirilmesi gerekiyor. Ayrıca araştırmada yapay zekâ risklerine en yakın pozisyonların gerekli önlemler konusunda tam bilgi sahibi olduğundan emin olunması öneriliyor.
3. Gelişmekte Olan Agentic Yapay Zekâ Risklerinin Önüne Geçilmesi:
Agentic yapay zekâ (insan müdahalesine ihtiyaç duymadan otonom karar alabilme yeteneği) güçlü yeni yetkinlikler vaat ederken, aynı zamanda bazı riskler de getiriyor. İşletmelerin bu riskleri tanımlaması, uygun politikaları benimsemesi ve sağlam bir yönetişim ile izleme mekanizması kurması kritik önem taşıyor.
EY Türkiye Danışmanlık Bölümü Şirket Ortağı, Yapay Zekâ ve Data Hizmetleri Lideri Serter Baltacı araştırma sonuçlarıyla ilgili şu değerlendirmede bulundu:
“Yapay zekâ iş süreçlerine giderek daha derinlemesine entegre oldukça, liderlerin önünde net bir tercih beliriyor: Sorumlu yapay zekâ yalnızca bir operasyon olarak mı ele alınacak, yoksa stratejik bir itici güç olarak mı görülecek? İkinci yolu seçenler güçlü yönetişim, net ilkeler ve bilinçli liderlik sayesinde potansiyel riskleri rekabet avantajına dönüştürebilirler. EY Responsible AI Araştırması’nda da görüldüğü üzere, şirketler etik ve güvenilir yapay zekâ uygulamalarını hayata geçirdiklerinde, hem olası riskleri azaltmada hem de değer kazanımı hızlandırmada büyük bir katkı sağlıyor. Üstelik bu sadece bir uyum sürecini değil; güven, inovasyon ve pazarda öne çıkmanın da itici gücünü oluşturuyor. Bu sebeple sorumlu yapay zekâ ilkelerini temel iş fonksiyonlarına dahil eden şirketler, verimlilik kazanımları elde etmeye, daha güçlü gelir artışı sağlamaya ve günümüzün yapay zekâ odaklı ekonomisinde rekabet avantajlarını sürdürmeye daha yatkın olacaktır.”
Kaynak : 