Bu yazı, 25 Nisan 2023’te San Francisco’da düzenlenen RSA Konferansı sırasında, Harvard Kennedy Okulu’nda kamu politikası öğretim görevlisi Bruce Schneier tarafından yapılan açılış konuşmasının dökümüdür. |
Teknolojinin demokrasiye yönelik tehditleri hakkında yazılmış çok şey var; “Polarizasyon”, “Yapay zeka”, “Zenginlik ve gücün yoğunlaşması”.
Daha genel bir hikayem var: “18. yüzyılın ortalarında oluşturulan siyasi ve ekonomik yönetişim sistemleri, 21. yüzyıl için pek uygun değil”. Güdüleri iyi yönlendiremiyor ve çok etkili bir şekilde saldırıya uğruyorlar.
Aynı zamanda, saldırıya uğramış bu sistemlerin maliyeti, insanlık tarihi boyunca hiç bu kadar büyük olmamıştı. Bir tür olarak çok güçlü hale geldik ve sistemlerimiz hızla değişen yıkıcı teknolojilere ayak uyduramıyor.
Teşvikleri uyumlu hale getiren ve bilgisayar korsanlığına karşı dayanıklı yeni yönetişim sistemleri yaratmamız gerekiyor… her ölçekte. Bireyden tüm topluma kadar.
Bunu anlamak için 20. yüzyılı ve/veya düşündüklerinizi bırakmanız lazım. Bu “kapitalizme karşı komünizm” ile ilgili bir şey değil. “Otokrasiye karşı demokrasi” meselesi de değil. Bu, “yapay zekaya karşı insanlar“la ilgili hiç değil. Bu yeni bir şey, henüz adını bilmediğimiz bir şey ve bugün neyin mümkün olduğunu bile hesaba katmadan, “mavi gökyüzü (sınırları olmayan beyin fırtınası anlamında) düşünme olayı”
Bu konuşma boyunca, hem demokrasiyi hem de kapitalizmi “bilgi sistemleri” olarak düşünmenizi istiyorum. Sosyo-teknik bilgi sistemleri. Grup kararları almak için protokoller. Farklı oyuncuların farklı teşviklere sahip olduğu yerler. Bu sistemler bilgisayar korsanlığına karşı savunmasızdır ve bu bilgisayar korsanlarına karşı güvenceye alınmaları gerekir.
Biz güvenlik teknolojisi uzmanları, hem güvenli sistem tasarımı, hem de bilgisayar korsanlığı konusunda çok fazla uzmanlığa sahibiz. Bu nedenle bu tartışmaya ekleyebileceğimiz bir şeyler var.
Ve son olarak, bu devam eden bir çalışmadır. Yönetişimi görüntülemek için bir çerçeve oluşturmaya çalışıyorum. Bu yüzden bunu bir çözüme giden yol haritasından ziyade tartışma için bir temel olarak düşünün. Ve yazarak düşünüyorum ve duyacağınız şey, yazımın şu anki taslağı ve benim düşüncem. Yani her şey haber verilmeksizin değiştirilebilir.
Tamam, hadi buradan devam edelim..
Hepimiz yanlış bilgilendirmeyi ve bunun demokrasiyi nasıl etkilediğini biliyoruz. Propagandacıların gündemlerini ilerletmek için bunu nasıl kullandıkları da. Bu, bilgi teknolojileriyle güçlendirilmiş eski bir sorundur. Etkileşime öncelik veren sosyal medya platformları, “filtre balonu” segmentasyonu ve ikna edici mesajlar geliştirmek için teknolojiler.
Sorun aslında demokrasilerin politik kararları almak için bilgiyi kullanma biçiminden kaynaklanmaktadır. Demokrasi, siyasi sorunları çözmek için kolektif zekadan yararlanan bir bilgi sistemidir. Sonra bu çözümlerin ne kadar iyi çalıştığına dair geri bildirim toplar. Bu, siyasi karar almak için kollektif zekadan yararlanmayan otokrasilerden veya vatandaşlarından geri bildirim toplamak için güvenilir mekanizmalara sahip olmaktan farklıdır.
Bu demokrasi sistemleri iyi çalışıyor, ancak uç fikirler silaha dönüştüğünde korkulukları yok. Yanlış bilgilendirmenin hedeflediği şey budur. Bunun tarihsel çözümünün temsil olması gerekiyordu. Bu, kısmen seçimde hile yapmak, garanti edilmiş koltuklar, iki partili düzen ve siyasette para nedeniyle ABD’de şu anda başarısız oluyor. Ama sorun daha genel.
James Madison bunu 1787’de yazdı ve burada iki noktaya değindi. Birincisi, bu temsilciler, aşırıcılığı sınırlayarak popüler görüşleri filtrelemeye hizmet ediyor. İkincisi, bu coğrafi dağılım, aşırı görüşlere sahip olanların katılmasını zorlaştırıyor. Organize etmek zor. Adil olmak gerekirse, bu sınırlamalar hem iyi, hem de kötüdür. Her durumda, mevcut teknoloji – sosyal medya – ikisini de bozar.
Yani bu bir soru: Filtreleme veya coğrafi dağılım olmayan bir dünyada temsil neye benzer? Ya da 21. yüzyıl demokrasisini önyargı, yanlış bilgi ve taraflılıkla kirletmekten nasıl kaçınabiliriz? Hem problem çözme, hem de geri bildirim mekanizmalarını bozan şeyler var.
Asıl mesele bu. Konu yanlış bilgilendirme değil, yanlış bilgilendirmeyi geçerli bir strateji haline getiren teşvik yapısı.
Bu, 1 numaralı sorun: Sistemlerimizin teşviklerini yanlış yere koyuyor. Küçük grup için en iyi olan genellikle bütün için en iyi olanla uyuşmaz. Ve bu, her türden birey ve grup boyutu için geçerlidir.
Tarihsel olarak, yanlış yere koymayı avantajımıza kullandık. Mevcut yönetişim sistemlerimiz, karar vermek için çatışmalardan yararlanır. Temel fikir, koordinasyonun verimsiz ve pahalı olduğudur. Bireysel çıkar, optimal grup kararlarıyla sonuçlanan yerel optimizasyonlara yol açar.
Ancak bu aynı zamanda verimsiz ve pahalıdır. ABD, 2020 başkanlık, senato ve kongre seçimlerine 14,5 milyar dolar harcadı. Dikkatin maliyetini nasıl hesaplayacağımı bile bilmiyorum. Kulağa çok para gibi geliyor. Ama bir adım geri çekilin ve sistemin nasıl çalıştığını düşünün. Bu seçimleri kazanmanın ekonomik değeri o kadar büyük ki, kendi teşvik yapınızı bu şekilde dayatıyorsunuz.
Daha genel olarak, piyasa ekonomimizin maliyeti çok büyük. Örneğin, dünya çapında reklamcılık için yılda 780 milyar dolar harcanmaktadır. Başarısız olan girişimlerde milyarlarca dolar boşa gidiyor. Ve bu, rekabetçi bir pazar ortamında kaybedilen toplam kaynakların yalnızca bir kısmı. İnsanlar arasında eşit olmayan bir şekilde dağılmış. Başka yan zararlar da var.
Kapitalizmin – ve demokrasinin – bu maliyetlerini kabul ettik çünkü merkezi planlamanın verimsizliğinin daha kötü olduğu düşünülüyordu.
Bu artık doğru olmayabilir. Çatışmanın maliyeti arttı. Koordinasyon maliyetleri de azaldı. Şirketler, merkezi olarak planlanmış büyük ekonomik birimlerin günümüz toplumunda rekabet edebileceğini göstermektedir. Walmart veya Amazon’u düşünün. GSYİH’yı piyasa değeriyle karşılaştırırsanız, Apple gezegendeki en büyük sekizinci ülke olacaktır. Microsoft onuncu olurdu.
Demokrasi sosyo-teknik bir sistemdir. Ve tüm sosyo-teknik sistemler hacklenebilir.
Bu çatışma temelli sistemlerin bir başka etkisi de, kıtlık zihniyetini geliştirmeleridir. Ve bunu aşırıya götürdük. Şimdi sıfır toplamlı politika açısından düşünüyoruz. Benim partim kazanır, senin partin kaybeder. Ve bir dahaki sefere kazanmak, bu sefer yönetmekten daha önemli olabilir. Sıfır toplamlı ekonomi açısından düşünüyoruz. Ürünümün başarısı, rakiplerimin başarısızlıklarına bağlıdır. Uluslararası olarak sıfır toplam düşünüyoruz. Silahlanma yarışları ve ticaret savaşları.
Son olarak, bir problem çözme aracı olarak çatışma, artık bize yeterince iyi cevaplar vermeyebilir. Altta yatan varsayım, eğer herkes kendi çıkarını gözetirse, sonucun herkesin çıkarına en iyi şekilde yaklaşacağıdır.
Bu sadece basit sorunlar için işe yarar ve sistemik baskı gerektirir. Bu şekilde işlemeyen karmaşık, kötü, küresel sorunlar gibi pek çok sorunumuz var. Bu şekilde çalışmayan etkileşimli problem gruplarımız var. Optimum çözümler bulmanın daha verimli yollarını bulmamızı gerektiren sorunlarımız var.
Bu çatışma tabanlı sistemlerin birden çok etkisinin olduğunu unutmayın. Kasten kuralları çiğneyen kötü oyuncularımız var. Bir de yetersiz kurallardan yararlanan bencil aktörlerimiz var.
İkincisi, 2 numaralı sorundur: Son kitabım “A Hacker’s Mind”da “hackleme” olarak adlandırdığım şey. Demokrasi sosyo-teknik bir sistemdir. Ve tüm sosyo-teknik sistemler hacklenebilir. Bununla, kuralların ya eksik ya da tutarsız ya da modası geçmiş olduğunu kastediyorum – boşlukları var. Ve bunlar kuralları alt üst etmek için kullanılabilir. Peter Thiel, 5 milyar dolarlık gelir üzerinden vergi ödememek için, Roth IRA’yı alt üst ediyor. Bu hilecilik, haydutluk açısından olması gereken bir yasa. Veya vergi boşlukları, mali boşluklar, düzenleyici boşlukların tanımlanması lazım.
Günümüz toplumunda, zenginler ve güçlüler bilgisayar korsanlığı konusunda çok iyi. Saldırıya uğramış sistemlerimizi yamalamak giderek daha imkansız hale geliyor. Çünkü zenginler, güvenlik açıklarının yamalanmamasını sağlamak için güçlerini kullanırlar.
Bu toplum için kötü, ancak temelde rekabetçi yönetişim sistemlerimizde en uygun stratejidir. Sıfır toplamlı yapıları, bilgisayar korsanlığını asalak olsa da etkili bir strateji haline getirir. Bilgisayar korsanlığı yeni bir sorun değil, ancak günümüzde bilgisayar korsanlığı daha iyi ölçekleniyor ve bilgisayar korsanlığını kontrol altında tutmak için güvenlik sistemlerini eziyor. Silah düzenlemelerini, iklim değişikliğini, uyuşturucuları düşünün. Karmaşık sistemler bunu daha da kötüleştiriyor. Bunların hepsi doğrusal olmayan, sıkıca bağlı, tekrarlanamaz, yola bağlı, uyarlanabilir, birlikte gelişen sistemlerdir.
Şimdi bu karışıma internet, yapay zeka veya sentetik biyoloji gibi yeni ve tehlikeli teknolojilerden kaynaklanan riskleri ekleyin. Veya moleküler nanoteknoloji veya nükleer silahlar. Burada yanlış hizalanmış teşvikler ve bilgisayar korsanlığı, toplum için feci sonuçlar doğurabilir.
Bu, 3 numaralı problemdir: Yönetişim sistemlerimiz, güç seviyemize uygun değil. İzinlere dayalı değil, haklara dayalı olma eğilimindedirler. Reaktif olacak şekilde tasarlandılar, çünkü geleneksel olarak tek bir kişinin yapabileceği çok fazla hasar yoktu.
Tehlikeli teknolojileri düzenlemek için sistemlerimiz var. Otomobilleri düşünün. Pek çok şekilde düzenlenirler: ehliyetler + trafik yasaları + otomobil düzenlemeleri + yol tasarımı. Bunu uçaklarla karşılaştırın. Çok daha zahmetli lisans gereklilikleri, uçuşlarla ilgili kurallar, uçak tasarımı ve testiyle ilgili düzenlemeler ve her gün bunları denetleyen bir devlet kurumu. Veya araştırma, geliştirme, üretme ve dağıtma ile ilgili her şeyi çevreleyen çok karmaşık kurallara sahip ilaçlar. Tüm bu düzenlemelere sahibiz çünkü bu şeyler sizi öldürebilir.
Bu tür şeyler için genel terim “ihtiyat ilkesi” dir. Rastgele yeni şeyler ölümcül olabildiğinde, özellikle izin verilmedikçe onları yasaklarız.
“Bugün demokrasinin hizmetinde kullanabileceğimiz çok daha iyi bir teknolojiye sahibiz. Elbette bireysel tercihleri grup politikalarına dönüştürmenin daha iyi yolları vardır.”
Öyleyse, işlerimizin önemli bir yüzdesi bir pilotunki kadar potansiyel olarak zarar verici olduğunda ne olur? Yoksa daha mı zararlı? Bir kişi sentetik biyoloji yoluyla herkesi etkileyebildiğinde. Veya kurumsal bir kararın iklimi doğrudan etkileyebileceği yerler. Veya yapay zeka veya robotikte bir şey. Önlem ilkesi gibi şeyler artık yeterli değil. Çünkü kuralları çiğnemenin küresel etkileri olabilir.
Ve yapay zeka, bilgisayar korsanlığını güçlendirecek. Gerçek anlamda etkileşime giren, birlikte çalışamayan bir dizi sistem oluşturduk ve yapay zeka, bu etkileşimlerin daha fazlasından nasıl yararlanılacağını çözebilecek: yeni vergi boşlukları bulmak veya finansal düzenlemelerden kaçmak için yeni yollar bulacak. Belirli bir kişi veya gruba el altından fayda sağlayan “mikro mevzuat” oluşturacak. Ve felaket riski, bunun artık savunulamaz olduğu anlamına gelir.
Temel sorunlarımız bunlar: yanlış planlanmış teşvikler sistemlerin çok etkili bir şekilde hacklenmesine yol açıyor ve yanlış anlamanın maliyeti felaket olabilir.
Ya da daha fazla kelime ile söylemek gerekirse: Yanlış planlanmış teşvikler yerel optimizasyonu teşvik eder ve bu, toplumsal optimizasyon için iyi bir temsil değildir. Bu, yerel optimizasyondan kaynaklanabilecek hasar miktarı geçmişteki herhangi bir noktadan daha fazla olduğu için artık geçmişteki herhangi bir noktadan daha fazla zarar veren bilgisayar korsanlığını teşvik ediyor.
Tamam, bir bilgi sistemi olarak demokrasi kavramına geri dönelim. Bu sadece demokrasi değil: Herhangi bir yönetişim biçimi bir bilgi sistemidir. Bireysel inanç ve tercihleri grup politikası kararlarına dönüştüren bir süreçtir. Ve bu kararların ne kadar işe yaradığını belirlemek için geri bildirim mekanizmalarını kullanır ve ardından buna göre düzeltmeler yapar.
Tarihsel olarak, bunu yapmanın birçok yolu vardır. Hükümdarın, soyluların veya toprak sahiplerinin dışında kimsenin tercihinin önemli olmadığı bir sisteme sahip olabiliriz. Bazen daha güçlü ordu veya parası olan insanlar karar verir.
Ya da herkesin tercihlerini sıralayabilir ve insanların en az yarısının istediği şeyi yapabiliriz. Bugün ideal haliyle demokrasinin vaadi temelde budur. Parlamenter sistemler daha iyidir, ancak yalnızca marjlarda – ve her şey biraz ilkel hissettiriyor. Pek çok insan, seçimlerin bireysel tercihleri bir araya getirmede bilgi açısından ne kadar zayıf olduğu hakkında yazıyor. Aynı zamanda tüm bu yanlış yere konulmuş teşviklerle sonuçlanır.
Demokrasinin farklı işlevlere hizmet ettiğini anlıyorum. Gücün barışçıl geçişi, zararın en aza indirilmesi, eşitlik, adil karar verme, daha iyi sonuçlar. Demokrasinin tüm bu şeyler için iyi olduğunu kabul ediyorum. Nasıl uygulayacağımıza odaklanıyorum.
Modern demokrasi, karar verme sürecinde vatandaşları kimin temsil ettiğini belirlemek için seçimleri kullanır. Ve insanların ne düşündüğü ve ne istediği ve politikaların ne kadar iyi çalıştığı hakkında bilgi toplamanın her türlü başka yolu. Bunlar kamuoyu yoklamaları, kural koymaya yönelik kamuoyu yorumları, savunma, lobicilik, protesto vb. Ve gerçekte, o kadar kötü bir şekilde saldırıya uğradı ki, insanların iradesini yerine getirmek gibi korkunç bir iş çıkarıyor ve bu sistemleri hacklemek için daha fazla teşvik yaratıyor.
Adil olmak gerekirse, demokratik cumhuriyet, 18. yüzyılın ortalarında teknolojinin icat edebileceği en iyi hükümet biçimiydi. İletişim ve seyahat zor olduğu için, oraya kadar gitmek ve bizim adımıza yasalar çıkarmak için birimizi seçmemiz gerekiyordu. Her zaman istediğimiz şeyin kaba bir yaklaşımıydı. Ve ilkelerimiz, değerlerimiz, adalet anlayışımız; meşruiyet ve otorite hakkındaki fikirlerimiz 18. yüzyılın ortalarından beri çok gelişti. Optimal grup sonuçları kavramı bile grupta kimin dikkate alındığına ve kimin dışarıda olduğuna bağlıydı.
Ama demokrasi durağan bir sistem değil, istek uyandıran bir yönlenme. Gerçekten sürekli iyileştirme gerektiren bir yönetim tarzı. Demokratik sistemlerimiz, teknolojilerimizin sahip olduğu hızda gelişmedi. Demokraside ilerlemeyi engellemenin kendisi bir demokrasi hilesidir.
Bugün demokrasinin hizmetinde kullanabileceğimiz çok daha iyi bir teknolojiye sahibiz. Elbette bireysel tercihleri grup politikalarına dönüştürmenin daha iyi yolları vardır. Artık iletişim ve seyahat kolay. Belki de temsilciliği yaşa, mesleğe göre ya da rastgele doğum gününe göre atamalıyız. Belki de herkesin tercihlerine göre en uygun politika sonuçlarını hesaplayan bir yapay zeka icat edebiliriz.
Ne yaparsak yapalım, her ölçekte bireysel ve grup teşviklerini daha iyi uyumlu hale getiren sistemlere ihtiyacımız var. Bilgisayar korsanlığına karşı dayanıklı olacak şekilde tasarlanmış sistemler. Ve felaket yaratacak risklere karşı dayanıklıdır. İşbirliğinden daha fazla yararlanan ve daha az çatışma çıkaran sistemler. Ve sıfır toplamlı değiller.
Neden herkesin kazandığı bir maçımız yok?
Bu daha önce hiç yapılmadı. Kapitalizm değil, komünizm değil, sosyalizm değil. Mevcut demokrasiler veya otokrasiler değil. Şimdiye kadar gördüğümüz hiçbir şeye benzemeyecek.
Bunun bir kısmı güven ve işbirliğinin nasıl çalıştığına bağlıdır. 2012’de “Yalancılar ve Aykırılar”ı yazdığımda, güveni sağlamak için dört sistem hakkında yazmıştım: doğuştan gelen ahlakımız, itibarımızla ilgili endişeler, tabi olduğumuz yasalar ve davranışlarımızı kısıtlayan güvenlik teknolojileri. İlk ikisinin son ikisinden nasıl daha gayri resmi olduğunu yazdım. Ve son ikisi nasıl daha iyi ölçeklenir ve daha büyük ve daha karmaşık toplumlara izin verir. Yabancılar arasında işbirliğini sağlarlar.
“İnsan yönetişim sistemlerimizin yönetmesi gereken teknolojilerle uyumlu olması gerekir. Değillerse, sonunda teknolojik sistemler yönetişim sistemlerinin yerini alacaktır.”
Anlayamadığım şey, ilk ve son ikisinin ne kadar farklı olduğu. Ahlak ve itibar, eski biyolojik güven sistemleridir. İnsan bağlantısına ve işbirliğine dayalı, kişiden kişiye değişir. Kanunlar – ve özellikle güvenlik teknolojileri – bizi işbirliği yapmaya zorlayan daha yeni güven sistemleridir. Sosyo-teknik sistemlerdir. Güvenden çok güven ve kontrolle ilgilidirler. Bu da daha iyi ölçeklendirme yapmalarını sağlar. Taksi şoförlüğü bir zamanlar ülkenin en tehlikeli mesleklerinden biriydi. Uber, yaygın gözetim yoluyla bunu değiştirdi. Uber şoförüm ve ben birbirimizi tanımıyor veya güvenmiyoruz, ancak teknoloji ikimizin de birbirimizi kandırmayacağından veya saldırmayacağından emin olmamızı sağlıyor. Hem sürücüler hem de yolcular, yerel ve küresel teşvikleri uyumlu hale getiren yıldız sıralaması için yarışıyor.
Günümüzün teknoloji aracılı dünyasında, işbirliği ritüellerini ve davranışlarını uyumluluğu zorunlu kılan güvenlik mekanizmalarıyla değiştiriyoruz. Ve süreçlere ve kurumlara zorunlu güven ile insanlara doğuştan gelen güven. Bu daha iyi ölçeklenir, ancak insan bağlantısını kaybederiz. Aynı zamanda pahalıdır ve gücümüz arttıkça daha da pahalı hale gelmektedir. Bu sistemler için daha fazla güvenliğe ihtiyacımız var. Ve sonuçların hacklenmesi çok daha kolay.
Ama olay şu: Gayri resmi insan güven sistemlerimiz doğası gereği ölçeklenemez. Bu yüzden belki de ölçeği yeniden düşünmeliyiz.
18. yüzyıl demokrasi sistemlerimiz, zamanın teknolojisiyle ölçeklenen tek şeydi. Bir grup arkadaşın nerede akşam yemeği yiyeceğine karar verdiğini hayal edin. Biri koşer, biri vejeteryan. Nerede yeneceklerine karar vermek için kazananın hepsini aldığı oy pusulasını asla kullanmazlar. Ancak bu, büyük yabancı gruplarına ölçeklenen bir sistemdir.
Ölçek yönetişimde de daha geniş anlamda önemlidir. Küresel siyasi ve ekonomik rekabet sistemlerimiz var. Terazinin diğer ucunda, gezegendeki en yaygın yönetim biçimi sosyalizmdir. Aileler böyle çalışır: İnsanlar yeteneklerine göre çalışır ve kaynaklar ihtiyaçlarına göre dağıtılır.
Bence hem çok büyük hem de çok küçük bir yönetişime ihtiyacımız var. Yıkıcı teknolojik risklerimiz gezegen ölçeğinde: iklim değişikliği, yapay zeka, internet, biyo-teknoloji. Ve insan topluluklarının doğasında var olan tüm yerel sorunlara sahibiz. Artık Fransa veya Virginia büyüklüğünde çok az sorunumuz var. Bazı yönetişim sistemleri yerel düzeyde iyi çalışır ancak daha büyük gruplara ölçeklenmez. Ama artık daha fazla teknolojiye sahip olduğumuza göre, başka demokrasi ölçeğinde sistemler yapabiliriz.
Bu, egemenlikle ilgili tarihsel normlara doğrudan doğruya gider. Ama bu zaten giderek daha önemsiz hale geliyor. Modern ulus kavramı, modern demokrasi kavramıyla yaklaşık aynı zamanlarda ortaya çıktı. Ancak kurucu sınırlar artık daha geniş ve daha akışkan ve bağlama çok bağlı. “Uyuşturucu savaşı” – veya iklim göçü – hakkındaki kararların ulusa göre belirlenmesi hiç mantıklı değil. Sorunlar bundan çok daha büyük. Şu anda, Facebook gibi İnternet platformlarını düzenlemek için doğru ayak izine sahip bir yönetim organı yok. Dünya çapında Hıristiyanlıktan daha fazla kullanıcısı olan.
Ayrıca büyümeyi yeniden düşünmemiz gerekiyor. Büyüme, yalnızca büyümek için gerekli kaynaklar ucuz ve bol olduğunda ilerleme anlamına gelir. Büyüme genellikle çıkarıcıdır. Ve başka bir şey pahasına. Büyüme, sıfır toplam sistemlerimizi nasıl beslediğimizdir. Pasta büyürse, büyümesi için pastanın bir kısmını ziyan etmemizde sorun yok. Kaynaklar kıt ve pahalı olduğunda bu mantıklı değil. Pastayı büyütmek, pasta boyutundaki artıştan daha pahalıya mal olabilir. Sürdürülebilirlik daha mantıklı. Ve şu anda içinde bulunduğumuz ortama daha uygun bir ölçü.
Son olarak, çeviklik de önemlidir. Sistem teorisine geri dönersek, yönetişim, karmaşık sistemleri karmaşık sistemlerle kontrol etme girişimidir. Sistemler büyüdükçe ve karmaşıklaştıkça bu daha da zorlaşıyor.
Son yıllarda, insan etkileşiminin zenginliğini ekonomik modellerle değiştirdik. Her şeyi pazara çeviren modeller. Piyasa köktenciliği daha iyi ölçeklendi, ancak sosyal maliyeti çok büyüktü. Nasıl düşündüğümüzün ve hareket ettiğimizin çoğu, bu modeller tarafından yakalanmaz. Ve bu karmaşık modellerin hacklenebilir olduğu ortaya çıktı. Daha büyük ölçeklerde giderek daha fazla.
Pek çok insan teknolojinin hızına karşı politikanın hızı hakkında yazdı. Bunu bu konuşmayla ilişkilendirmek gerekirse: İnsan yönetişim sistemlerimizin, yönetmeleri gereken teknolojilerle uyumlu olması gerekir. Değillerse, sonunda teknolojik sistemler yönetişim sistemlerinin yerini alacaktır. Twitter’ı ifade özgürlüğünün fiilen hakemi olarak düşünün.
Bu, yönetişimin çevik olması gerektiği anlamına gelir. Ve değişen koşullara hızla tepki verebilir. Bir mahkemenin Peter Thiel’e şöyle dediğini hayal edin: “Üzgünüm. Roth IRA’ların böyle çalışması gerekmiyor. Şimdi bize o 5 milyar dolarlık vergimizi verin.” Bu aynı zamanda teknolojik bir dünyada da önemlidir: benzeri görülmemiş hızlarda hareket eden, yanlış yapmanın felaketle sonuçlanabileceği ve kaynakların kısıtlı olduğu bir dünya. Çevik yama, sürekli bilgisayar korsanlığı ve ayrıca kırmızı ekip oluşturma karşısında güvenliği nasıl sağladığımızdır. Bu bağlamda, hem gazetecilik hem de sivil toplum, hükümet üzerindeki önemli kontrollerdir.
Demokrasi için biri eski diğeri yeni iki fikirden hızlıca bahsetmek istiyorum. Ben de savunmuyorum. Sadece size yeni olasılıklar açmaya çalışıyorum. Birincisi sıralama. Bunlar, bir konuyu incelemek ve bir politika kararına varmak için bir araya getirilen yurttaş meclisleridir. Antik Yunanistan ve Rönesans İtalya’sında popülerdiler ve bugün Avrupa’da giderek daha fazla kullanılıyorlar. ABD’de bunun tek kalıntısı jüri. Ancak bir kuruluşun mütevelli heyetini de düşünebilirsiniz. İkinci fikir, sıvı demokrasidir. Bu, herkesin kendi adına oy kullanmak için bir başkasına devredebileceği bir vekalete sahip olduğu bir sistemdir. Temsilciler bu vekillere sahiptir ve oy güçleri, sahip oldukları vekil sayısıyla orantılıdır. Kurumsal vekaleten yönetişimde buna benzer bir şeyimiz var.
Bunların her ikisi de, bireysel inançları ve tercihleri politika kararlarına dönüştürmek için kullanılan algoritmalardır. Bunların her ikisi de 21. yüzyıl teknolojileri ile kolaylaştırılmıştır. Her ikisi de demokrasidir, ancak yeni ve farklı şekillerde. Bilgisayar korsanlığına karşı bağışık olmasalar da, onları en başından güvenliği göz önünde bulundurarak tasarlayabiliriz.
Yapay Zeka teknikleri, siyasi tercihlerimizi ortaya çıkarmak ve bunları politika sonuçlarına dönüştürmek, geri bildirim almak ve ardından yinelemek için kullanılabilir mi? Bu oy kullanmaktan daha doğru olacaktır. Ve hatta belki seçimlerden de.
Bu, teknolojinin herhangi bir çözümün önemli bir bileşeni olduğuna işaret ediyor. Güven sistemleri oluşturmak için teknolojiyi nasıl kullanacağımızı biliyoruz. Hem resmi olmayan biyolojik tür hem de resmi uyum türü. Teşvikleri uyumlu hale getirmek ve bilgisayar korsanlığına karşı savunma yapmak için teknolojiyi nasıl kullanacağımızı biliyoruz.
Yapay Zeka korsanlığı hakkında konuştuk; Yapay zeka ayrıca bilgisayar korsanlığına karşı savunma yapmak, bilgisayar kodundaki güvenlik açıklarını bulmak, vergi boşluklarını yasalaşmadan önce bulmak ve üstü kapalı mikro mevzuat girişimlerini ortaya çıkarmak için de kullanılabilir.
Bir bilgi sistemi olarak demokrasiyi tekrar düşünün. Yapay Zeka teknikleri, siyasi tercihlerimizi ortaya çıkarmak ve bunları politika sonuçlarına dönüştürmek, geri bildirim almak ve ardından yinelemek için kullanılabilir mi? Bu oy kullanmaktan daha doğru olacaktır. Ve hatta belki seçimler için de.
Bir yapay zeka, temsilcimiz olarak hareket edebilir mi? Seçmenlerinin tercihlerini oylamada bir insandan daha iyi bir iş çıkarabilir mi?
Cebimizde, sahip olduğumuz çıkarımlara göre günde binlerce kez bizim adımıza oy kullanan bir yapay zeka olabilir mi? Veya belki de meseleleri okuyup yanlış bilgilere kapılmasaydık sahip olacağımız çıkarımlara dayalı tercihlere dayalı olabilir. Bireysel tercihleri politika kararlarına dönüştürmek için başka bir algoritma. Ve kesinlikle siyasete dikkat etmeyen insanların sorununu çözüyor.
Ancak yavaşlayın: Bu hızla teknolojik çözümcülüğe dönüşüyor. Ve bunun işe yaramadığını biliyoruz.
Burada sorulması gereken genel bir soru, algoritmaların bizim yerimize karar vermesine ne zaman izin veririz? Bazen kolaydır. Termostatımın ısısını otomatik olarak açıp kapatmasına izin vermekten, bir yapay zekanın araba sürmesine veya bir şehirdeki trafik ışıklarını optimize etmesine izin vermekten mutluyum. Vergi oranlarını, kurumsal düzenlemeleri veya dış politikayı belirleyen bir yapay zekadan o kadar emin değilim. Veya bize nedenini açıklayamayacağını söyleyen, ancak hemen şimdi savaş ilan etmemizi şiddetle tavsiye eden bir yapay zeka. Bunların her biri daha zordur çünkü daha karmaşık sistemlerdir: yerel olmayan, çok aracılı, uzun süreli vb. Ayrıca benim adıma çalışan herhangi bir yapay zekanın benim kontrolüm altında olmasını istiyorum. Ve onu kullanmama izin veren büyük bir kurumsal tekel tarafından kontrol edilmemeli.
Ve öğrenilmiş çaresizlik önemli bir husustur. Muhtemelen artık nasıl araba sürüleceğini bilmemize gerek kalmadığı için sorun yok. Ama demokrasiyi nasıl yöneteceğimizi unutturacak bir sistem istemiyoruz. Sonuçlar burada önemlidir, ancak mekanizmalar da önemlidir. Herhangi bir yapay zeka sistemi, bireyleri demokrasi sürecine dahil etmeli, onların yerine geçmemelidir.
Dolayısıyla, yönetişimin tüm zor işini yapan bir yapay zeka, daha iyi politika sonuçları üretebilir. Daha az verimli olsa bile, insan merkezli bir siyasi sistemde sosyal değer vardır. Ve teknolojik olarak daha verimli tercih toplama, daha doğru olsa bile daha iyi olmayabilir.
Sanayi Çağı’nın başında tasarladığımız yönetişim sistemleri, Bilgi Çağı’na pek uygun değil. Teşvik yapılarının hepsi yanlış. Güvensizler ve savurganlar. Optimal sonuçlar üretmezler.
Prosedür ve maddenin birlikte çalışması gerekir. Yazay Zekanın karar vermede bir rolü vardır: tartışmaları yönetmek, anlaşmaları ve anlaşmazlıkları vurgulamak, insanların fikir birliğine varmasına yardımcı olmak. Ancak biz insanların yönetişim sürecine dahil olmaya ve bu süreçten sorumlu olmaya devam etmesi bağımsız bir iyiliktir.
Ve bu değer, demokrasinin işlemesi için kritik öneme sahiptir. Demokratik bilgi toplanacak bir şey değildir: Dinamiktir; demokrasinin toplumsal süreçleri aracılığıyla üretilir. Sanatın tabiri “tercih oluşturma”dır. Biz sadece pasif bir şekilde tercihleri bir araya getirmiyoruz, onları öğrenme, müzakere, müzakere ve uyum yoluyla yaratıyoruz. Bu süreçlerin bazıları işbirlikçi, bazıları ise rekabetçidir. Her ikisi de önemlidir. Ve demokrasi olan bilgi sistemini beslemek için her ikisine de ihtiyaç var.
Politik ve ekonomik sistemlerimizden çatışma ve rekabeti asla ortadan kaldırmayacağız. İnsan anlaşmazlığı sadece yüzeysel bir özellik değildir; sonuna kadar gider. Temelde farklı özlemlerimiz var. Farklı yaşam biçimleri istiyoruz. Optimal politikalardan bahsettim. Bu görüş bile tartışmalıdır: Kim için, neye göre, hangi zaman diliminde optimal? Anlaşmazlık demokrasinin temelidir. Aynı bilgilere dayanarak farklı politika sonuçlarına ulaşıyoruz. Ve demokrasiyi mümkün kılan tüm bu işleri yapma sürecidir.
Yani aslında herkesin kazandığı bir oyunumuz olamaz. Amacımız çoğulluğa uyum sağlamak, çatışma ve anlaşmazlığı dizginlemek ve onu ortadan kaldırmak değil. Aynı zamanda, oyuncuya karşı oyuncu oyunundan, oyuncuya karşı çevre oyununa geçiş.
Bu konuşmada çok şey eksik; yeni siyasi ve ekonomik yönetişim sistemlerinin nasıl görünmesi gerektiği gibi. Demokrasi ve kapitalizm karmaşık şekillerde iç içe geçmiş durumda ve bence birini yeniden yaratmadan, diğerini de yaratamayız. Çeviklik hakkındaki yorumlarım, otorite ve bunun diğer her şeyle nasıl etkileşime girdiği hakkında sorulara yol açıyor. Çevikliğin nasıl hacklenebileceğine de. Birçok biçimiyle kabilecilikten bahsetmedik bile. Demokrasinin işlemesi için insanların kendileri gibi olmayan yabancıların refahını önemsemeleri gerekir. Haklar ve sorumluluklar hakkında konuşmadık. Neyin demokrasiye aykırı olduğu çok büyük bir tartışma konusu. Ve Butterin’in üçlemesi de burada önemlidir: aynı anda güvenli, dağıtılmış ve ölçeklenebilir sistemler kuramazsınız.
Ayrıca buradan oraya nasıl gideceğimi bir an bile düşünmedim. Bahsettiğim her şey – teşvikler, bilgisayar korsanlığı, güç, karmaşıklık – herhangi bir geçiş sistemi için de geçerlidir. Ancak, neyi hedeflediğimiz konusunda sınırsız tartışmalar yapmamız gerektiğini düşünüyorum. Varsayımlarımızı sorgulamaktan başka bir neden yoksa. Ve olasılıkları hayal etmek. Ve yapay zeka konusunun çoğu hala bilim kurgu olsa da, bilim kurgudan çok uzak değil.
Yönetim kurulunu temize çıkaramayacağımızı ve sıfırdan yeni bir yönetişim yapısı kuramayacağımızı biliyorum. Ama belki gerçeği geri getirebileceğimiz fikirler bulabiliriz.
Özetlemek gerekirse, Sanayi Çağı’nın başında tasarladığımız yönetişim sistemleri Bilgi Çağı’na pek uygun değil. Teşvik yapılarının hepsi yanlış. Güvensizler ve savurganlar. Optimal sonuçlar üretmezler. Aynı zamanda, güçlü teknolojiler nedeniyle toplum için yıkıcı risklerle karşı karşıyayız. Ve son derece kısıtlı bir kaynak ortamı. Yönetişim sistemlerimizi yeniden düşünmemiz gerekiyor; daha fazla işbirliği ve daha az rekabet ve günümüzün sorunlarına ve günümüz teknolojilerine uygun ölçeklerde. Yerleşik güvenlik ve önlemlerle. Demokrasiden sonra gelen şey pekala daha fazla demokrasi olabilir, ancak çok farklı görünecektir.
Bu, güvenlik uzmanlığımıza layık bir meydan okuma gibi geliyor.