İnsan hayatlarında yapay zekanın yararlı bir şekilde kullanılması için araştırmalar yapan OpenAI şirketinin yeni ürünü GPT-3 ismi verilen yapay zekâ algoritması. OpenAI 2015 yılında bir milyar dolardan fazla bir yatırımla kurulmuştu. Bu teknoloji şiir yazabiliyor, metin çevirebiliyor, diyalog kurabiliyor ve soyut soruları dahi cevaplayabiliyor.
Elon Musk’un kurduğu yapay zeka araştırma laboratuvarı OpenAI, üzerinde çalışmakta olduğu ve insan dilini taklit edebilen bir AI sisteminin en yeni sürümünün, GPT-3 adlı bir modelin gelişini duyurdu. GPT-3 şu an hâlâ sınırlı sayıda kullanıcı tarafından beta olarak kullanılabiliyor.
GPT-3, 2019 yılında yayımlanan GPT-2’nin geliştirilmiş üçüncü nesil hâli. GPT-2 için “yanlış ellere düşerse çok tehlikeli olur” yorumu vardı [1].
GPT-3, Elon Musk ve Sam Altman tarafından kurulan OpenAI’in üzerinde birkaç yıldır çalışma yürüttüğü bir yapay zekâ teknolojisi.
GPT-3 175 Milyar Parametre Kullanıyor
GPT-3, Generative Pre-Training Transformer 3 yani “Üreten Ön İşlemeli Dönüştürücü 3” anlamına geliyor. GPT-3’ü doğal dil işleme sinirsel ağ olarak tanımlamak mümkün. Yani GPT-3 beslediğiniz içeriğin ardından neyin gelmesi gerektiğini öngörüyor.
Algoritma, internette bulunan ilgili tüm metinleri, beslenen içeriğe dayalı ve istatistiksel olarak makul bir yanıt oluşturmak için kullanıyor. Çok sayıda veri işleyebildiğinden, hangi yanıtın en makul olduğunu anlayabiliyor ve cevapları doğru oluyor.
GPT adıyla yayımlanan ilk algoritmada 110 milyon ayarlanabilir parametre varken, bu sayı GPT 2’de 1,5 milyara ulaştı. GPT-3’te ise 175 milyar parametre var. Parametrelerin çokluğu yapay zekânın öğrenmesini kolaylaştırıyor. Bu yüzden GPT-3 için “bugüne kadar üretilmiş en tehlikeli algoritma” yorumları da yapılıyor.
Bu sayıda parametrenin eğitilmesi ise OpenAI’a toplam 12 milyon dolara mal olmuş.
Rekabet Kızışıyor
Şubat 2020’de Microsoft, Turing Natural Language Generation’ı (T-NLG) tanıttı [2]. T-NLG, yayımlandığı gün 17 milyar parametre ile en büyük dil modeliydi. Metinleri özetleme ve soruları yanıtlama dahil olmak üzere çeşitli görevlerde diğer tüm dil modellerinden daha iyi performans gösterdi.
Ancak OpenAI’ın üçüncü nesil dil modeli, Microsoft’un sahip olduğu parametre sayısı 10 kat arttırmayı başardı.
GPT-3 Beta Kullanıma Açıldı
OpenAI , GPT-3’ü ilk olarak Mayıs ayında yayınlanan bir araştırma makalesinde tanımlamıştı [3]. Geçen hafta, özel bir betaya erişim açıldı[4]. Şimdilik OpenAI, dışarıdaki geliştiricilerin GPT-3’ün neler yapabileceğini keşfetmesine yardımcı olmalarını istiyor. Ancak aracı bu yılın ilerleyen günlerinde ticari bir ürüne dönüştürmeyi ve işletmelere bulut aracılığıyla ücretli bir abonelik sunmayı planlıyor.
GPT-3’ün içinde neler olup bittiği tam olarak net değil. Anlaşılan, internette çeşitli yerlerde bulduğu milyonlarca metinleri sentezlemek, bunlardan sonuç oluşturmak şeklinde çalışıyor.
[3] Language Models are Few-Shot Learners
[4] OpenAI API
