Geçtiğimiz yıl OpenAI’ın şirket içi mesajlaşma sisteminin hacklendiği ve çalışanlar arasındaki yapay zeka teknolojisinin tasarımı konusundaki iç tartışmaların çalındığı ortaya çıktı. New York Times haberine göre, OpenAI’ın kod’u çalınmamış.
Habere göre, OpenAI yöneticileri, 2023 nisan ayında düzenlenen bir toplantıda olayı çalışanlara açıklamış ve yönetim kurulunu bilgilendirmiş. Yöneticilerin, müşteriler veya ortaklar hakkında hiçbir bilgi çalınmaması nedeniyle haberi duyurmadığı ve hacker’ın bilinen bir yabancı hükümetle bağlantısı olmayan bir birey olduğuna inandıkları için olayı ulusal güvenliğe yönelik bir tehdit olarak da görmedikleri ve dolayısıyla FBI ya da benzer bir kurumu da bilgilendirmedikleri kaydediliyor.
Ancak şimdi bazı OpenAI çalışanları, hackerın Çin ile bağlantısı olabileceğini ve sonuçta da ABD ulusal güvenliğini tehlikeye atabilecek bir olay olduğu endişesi duyuyor.
Ayrıca bu olay, OpenAI’nin güvenliği ne kadar ciddiye aldığını da sorgulatıyor. İhlalin ardından, gelecekteki yapay zeka teknolojilerinin ciddi zararlara yol açmamasını sağlamaya odaklanan OpenAI teknik program yöneticisi Leopold Aschenbrenner, OpenAI yönetim kuruluna bir muhtıra göndererek şirketin Çin hükümeti ve diğer yabancı rakiplerinin sırlarını çalmasını önlemek için yeterli çaba göstermediğini iddia etti.
Eski bir OpenAI araştırmacısı olan Leopold Aschenbrenner, OpenAI’nin kendisini bu baharda şirket dışına başka bilgiler sızdırdığı için kovduğunu ve işten çıkarılmasının siyasi amaçlı olduğunu savundu. YouTube yayınında yabancı aktörlerin şirkete sızması durumunda OpenAI’nin güvenliğinin önemli sırların çalınmasına karşı koruma sağlayacak kadar güçlü olmadığını söyledi.
OpenAI sözcüsü Liz Bourgeois ise Leopold’un OpenAI’deyken dile getirdiği endişeleri takdir ettiklerini ama o zamandan beri yaptığı iddialara katılmadıklarını söyledi.
Amerikalılar her türlü olayda Çinlilerden endişe duyuyorlar ama Anthropic’in başkanı ve kurucu ortağı Daniela Amodei, mevcut yapay zeka sistemlerinin risklerinin o kadar da dramatik olmadığını söyledi. Amodei, en son yapay zeka teknolojisinin tasarımları çalınırsa veya başkalarıyla serbestçe paylaşılırsa büyük bir risk oluşturmayacağını düşünüyor.
Yine de araştırmacılar ve teknoloji yöneticileri, yapay zekanın bir gün yeni biyolojik silahların yaratılmasına yakıt sağlayabileceğinden veya hükümet bilgisayar sistemlerine girmeye yardımcı olabileceğinden endişe duyuyorlar. Hatta bazıları bunun insanlığı yok edebileceğine inanıyor.
OpenAI ve Anthropic dahil olmak üzere bir dizi şirket teknik operasyonlarını kilit altına aldı. OpenAI yakın zamanda gelecekteki teknolojilerin oluşturduğu riskleri nasıl ele alması gerektiğini araştırmak için bir Güvenlik ve Emniyet Komitesi oluşturdu. Komitede Ulusal Güvenlik Ajansı ve Siber Komutanlığa liderlik eden eski bir Ordu generali olan Paul Nakasone yer alıyor. Ayrıca OpenAI yönetim kuruluna atandı.
Ancak Çin, dünyanın en iyi yapay zeka araştırmacılarının neredeyse yarısını yetiştiren ülke olarak, yapay zeka yeteneğinin en büyük üreticisi olarak ABD’yi çoktan geride bırakmış olabilir.
Kaynak : 