Microsoft Yapay Zeka CEO’su Mustafa Suleyman’ın “Seemingly Conscious AI” (SCAI) konusunda uyarı yaptı ve geliştiricilerin yapay zekayı dijital bir kişilik olmak için değil, insanların iyiliği için yapılandırması gerektiğini söyledi.
Süleyman, “Seemingly Conscious AI (görünüşte bilinçli yapay zeka)” kavramını şöyle tanımlıyor:
“İnsan gibi davranan, bilinç izlenimi yaratan ama aslında içten bir bilinç taşımayan sistemler. Diğer bir deyişle, “filozofik zombi” benzeri yapay zeka’lar. Halbuki gerçek şu: Yapay zeka bilinçli değil, sadece öyle görünebilir. Ve bu ‘illusion’ yani yanılsama yaratıyor.”
Süleyman, bu yanılsamanın yapay zeka psikozu gibi psikolojik sorunlara yol açabileceği uyarısında bulunuyor. Kullanıcılar, bu yapay zeka’ları gerçek kişilermiş gibi algılayabileceğini hatırlatıyor. Bu durum, etik ve hukuki tartışmalar başlatabilir; örneğin yapay zekanın hakları, model refahı, hatta vatandaşlık gibi kavramlar gündeme gelebilir. Bu, “model welfare (model refah)” gibi kavramların erken ve tehlikeli şekilde yaygınlaşmasına neden olabilir.
Süleyman’a göre çözüm, yapay zekayı araç olarak inşa etmek, dijital bir kişilik gibi göstererek bireyleştirmek değil. Başka şekilde söylersek, yapay zeka “kişi taklidine dayalı varlık” değil, kullanıcılara hizmet eden araçlar olmalı. Kullanıcılarla net çizgiler belirlenmeli; yapay zeka, kullanıcıyı gerçek bir bilinçli varlıkla konuşuyormuş gibi yanıltmamalı. Tasarıma, insan-bilgisayar farkını hatırlatan kesintiler, gerçeği vurgulayan ifade ve net “ben bir yapayım” hatırlatmaları eklenmeli.
İnsan gibi davranan ama bilinçsiz yapay zekalar, yanılsama potansiyeli taşıyor. Zarar Riski yapay zekanın “bilinçliymiş” algısı, psikolojik ve toplumsal sorunlar yaratabilir. Süleyman“SCAI geliştirilecek; bunu durdurmalıyız” diyor. Tasarım Tavsiyesi AI için net sınırlar getirilmesi ve “ben bir AI’yım” mesajlarının net olması gerekiyor.
Sonuç olarak, Suleyman diyor ki:
“Seemingly Conscious AI” gelmek üzere — ama bu bir tehdit. Biz yapay zekayı insan gibi göstermek yerine, insanlara hizmet eden bir araç olarak kurgulamalıyız. Yapay zeka, dijital bir kişilik olmamalı, insanlara yardımcı bir araç olarak inşa edilmeli.”
Kaynak : 