25 Ekim’de teknoloji ve iş dünyasından 5000’e yakın profesyonelin katılımıyla SAP NOW etkinliği gerçekleştirildi. (1) Etkinliğin hedefini, dijitalleşen dünyada geleceğin nasıl şekilleneceğini konuşmak, inovasyon sürecini deneyimlemek, başarılı örneklerden ilham almak, çözüme giden bağlantılar kurmak olarak özetleyebiliriz. Etkinlik boyunca Endüstri 4.0 ile gelen yeni teknolojileri uygulayabilen, dijital dönüşüm sürecinde ilerleme kaydeden şirketler, deneyimlerini paylaştılar, uyguladıkları teknolojik çözümleri anlattılar. Dönüşüm sürecinde bazı mesleklerin yok olacağı ve iş gücünün yeniden şekilleneceği de önemli tartışma konuları arasındaydı.
“İnovasyon, Geleceğin İş Dünyası, Çeşitlilik” başlığı altındaki panelin girişinde, TurkishWin kurucusu Melek Pulatkonak, teknolojiyle dönüşen iş dünyasında yaşanan bazı ilginç konulara da değindi. Pulatkonak’ın sunumunda örnek verdiği, yapay zekâ/makine öğrenmesi, nörobilim uzmanı ve girişimci Vvienne Ming’in bizzat yaşadığı ayrımcılığın hikâyesi gerçekten ilginç. Ming’in belki de en önemli keşfi, tip-1 Diabet hastası olan oğlu için geliştirdiği ve Jitterbug adını verdiği sistem (2) . Eşi de bilim insanı olan Norma ile birlikte geliştirdikleri bu sistem ile belirli aralıklarla oğlundan aldığı kan değerleri üzerinde çalışan makine öğrenmesi metotlarıyla bir algoritma geliştirmiş ve gelecekte oluşacak kandaki glikoz değerlerini tahmin edip önlem alınmasını sağlamış. Kendisi bir tıp doktoru olmadığından, bu buluşuyla oğlunun hastalığına yardımcı olmasına rağmen, çözüm geniş kitlelere ulaşamamış ama Ming kodu açık kaynak olarak bağışlamış.
Ming’in hikâyesi bu kadarla kalmıyor. Erkek olarak başladığı hayat yolculuğuna 34 yaşında cinsiyet değiştirerek kadın olarak devam ediyor. Halen evli ve 2 çocuk sahibi olan Ming’in kariyeri cinsiyet değiştirmesiyle birlikte çok da istenmeyen bir değişime uğruyor. Erkek olduğu dönemde kendisine yöneltilen matematik soruları kadın olduktan sonra sorulmamaya başlanıyor.(3) Ming “İnsana karşı makineler” gibi olumsuz düşünceler yerine gelecekte daha iyi insan olabilmek için çalışan insanların makinalarla bütünleştiği ve dönüştüğü bir yaşam hayal ediyor. (4)
Irk ayrımcılığı
Geçmiş verilerden öğrenen yapay zekâ sistemlerinin ayrımcılığı teşvik etmemesi ve daha da önemlisi engellemesi için geçmişteki haksız uygulamaları engellemek için çeşitli düzenlemeler yapılıyor. Örneğin IBM, eski verilere bakarak siyahi veya Latin Amerikalılara karşı, işe alımlarda ya da kredi verme sistemlerinde ırk ayrımcılığı yapması beklenen programların algoritmalarını düzenleyen uygulamalar geliştiriyor. (5)
Reklamlarda ayrımcılık
Google’ın insanların önüne çıkardığı reklamlara bakıldığında, yüksek ücretli iş ilanlarını daha çok erkeklere gösterdiği görülmüş. Bunun sebebinin de verilerden öğrenen yapay zekâ sisteminin, aynı pozisyondaki kadınlara, erkeklere göre daha az ücret ödendiği bilgisinden oluşturduğu algoritmadan olduğu tespit edilmiş.
Tercümede ayrımcılık
Google çeviri uygulamasında Türkçe – İngilizce ve İngilizce –Türkçe şu çevirileri isterseniz bakın ne sonuç veriyor:
İngilizce-Türkçe
He is a babysitter O bir bebek bakıcısı
She is a doctor O bir doktor
Türkçe-İngilizce
O bir bebek bakıcısı She is a babysitter
O bir doktor He is a doctor
Henüz bu tür cinsiyet ayrımcı tercümelerdeki hatalar da çözülebilmiş değil.
Suçluların tespitinde ayrımcılık
Geçmişte işlenen suçların verilerine bakarak yapılan yapay zekâ analizlerinde çıkan algoritmalar, belirli yerleşim bölgelerinde daha fazla suç işlendiği tespitini yapabiliyor. Böyle olunca da polisin en sık arama-inceleme yaptığı bölge insanları potansiyel suçlu gibi de görülebiliyor. Kameralarla yapılan yüz tarama işlemlerinde de yapay zekâ algoritmaları beyaz tenli insanları %99 doğrulukla tanıyabilirken, siyahi kadınları tanımada bu oran %35’e geriliyor.
Geçmişte yaşanmış olayların verilerinden öğrendiğini bildiğimiz yapay zekâ sistemlerini oluştururken, geçmişin olumsuzlukları üzerine bir yapı kurulmaması için insan elinin değmesi gerekiyor. Yaşadığımız dünyanın olumsuzluklarını geleceğe de taşımamak için gerekli düzenlemeleri yapmalı ve yanlışlarımızı düzelterek ilerlemeliyiz.
[2] Built a Superpower to Treat My Son’s Diabetes
[3] Vivienne Ming: The Transformative Power of Being Yourself
[4] Vivienne Ming — SuperHuman(ity): Optimizing Human Potential