New York Times’ın 2 gün önce yayınladığı habere göre, ABD’de çok sayıda bilim adamı “yapay zeka ile geliştirilecek biyolojik silahları” önlemek içim imza kampanyası açtı.
Büyük dil modelleri veya LLM’ler geliştiren yapay zeka firması Anthropic’in genel müdürü Dario Amodei geçen yıl Kongre’ye, yeni yapay zeka teknolojisinin yakında bilgisiz ancak kötü niyetli insanların, yaygın hastalıklara ve ölümlere neden olacak virüslerin veya toksik maddelerin salınması gibi büyük ölçekli biyolojik saldırılar oluşturmasına yardımcı olabileceğini söyledi.
Bunun arkasından, yeni proteinler (biyolojideki tüm yaratımları yönlendiren mikroskobik mekanizmalar) tasarlamak için kullanılan yapay zeka teknolojilerinde uzmanlaşan 90’dan fazla biyolog ve diğer bilim insanı, yapay zeka destekli araştırmalarının detaylarını dünyaya açıklamadan ilerlemesini sağlamayı amaçlayan bir anlaşma imzaladı. Çünkü bu biyologlar, yeni aşılar ve ilaçlar da dahil olmak üzere en son teknolojilerin olumsuzluklardan çok daha fazla fayda sağlayacağını da savunuyor.
Anlaşma, yapay zeka teknolojilerinin geliştirilmesini veya dağıtımını engellemeyi amaçlamıyor. Bunun yerine biyologlar, yeni genetik materyal üretmek için gereken ekipmanın kullanımını düzenlemeyi amaçlıyor. Anlaşma, yapay zekanın risklerini olası faydalara karşı tartmaya yönelik birçok çabadan biri. Bazı uzmanlar, yapay zeka teknolojilerinin dezenformasyonun yayılmasına, olağandışı bir oranda işlerin değiştirilmesine ve hatta belki de insanlığın yok edilmesine yardımcı olabileceği konusunda uyarıda bulunurken, teknoloji şirketleri, akademik laboratuvarlar, düzenleyiciler ve yasa yapıcılar bu riskleri anlamak ve bunlara çözüm bulmanın yollarını bulmakta zorlanıyor.
Anthropic yakın zamanda, herhangi birisinin LLM’leri kullanarak biyolojik silahlar edinmeye veya tasarlamaya çalışabileceğini gösteren bir araştırma yapmıştı. Dr. Amodei bugün bunun mümkün olmadığını ama 2-3 yıl içinde bunun mümkün olabileceğini söylüyor.
Gerçi ChatGPT çevrimiçi sohbet robotunun yaratıcısı OpenAI, daha sonra LLM’lerin arama motorlarından önemli ölçüde daha tehlikeli olmadığını gösteren benzer bir çalışma yürüttü. Massachusetts Teknoloji Enstitüsü’nde bilgisayar bilimi profesörü ve OpenAI’nin hazırlık sorumlusu olan Aleksander Mądry, araştırmacıların bu sistemleri geliştirmeye devam etmesini beklediğini ancak henüz yeni biyolojik silahlar yaratabileceklerine dair herhangi bir kanıt görmediğini söyledi.
Günümüzün LLM’leri, internet üzerinden toplanan muazzam miktardaki dijital metnin analiz edilmesiyle oluşturulmaktadır. Bu, biyolojik saldırılarla ilgili mevcut bilgiler de dahil olmak üzere, çevrimiçi olarak zaten mevcut olan şeyleri yeniden oluşturdukları veya yeniden birleştirdikleri anlamına geliyor.
Ancak yeni ilaçların, aşıların ve diğer faydalı biyolojik materyallerin gelişimini hızlandırmak amacıyla araştırmacılar, yeni protein tasarımları üretebilecek benzer yapay zeka sistemleri kurmaya başlıyor . Biyologlar, bu tür teknolojinin saldırganların biyolojik silahlar tasarlamasına da yardımcı olabileceğini söylüyor ancak silahları inşa etmenin aslında DNA üretim ekipmanı da dahil olmak üzere multimilyon dolarlık bir laboratuvar gerektireceğine dikkat çekiyorlar.
Biyologlar, DNA üretim ekipmanının zararlı malzemelerle kullanılmasını önleyecek güvenlik önlemlerinin geliştirilmesi çağrısında bulundu; ancak bu önlemlerin nasıl işe yarayacağıda belli değil. Ayrıca yeni AI modellerinin piyasaya sürülmeden önce emniyet ve güvenlik incelemelerinin yapılması çağrısında bulundular.
Kaynak : 