Google bugün geliştiricilerin makine öğrenme modellerini geliştirmelerin yardımcı olmayı amaçlayan yeni bir açık kaynaklı proje olan TensorFlow Serving’i duyurdu[1] . TensorFlow Serving [2], Google’ın kendi TensorFlow makine öğrenme kitaplığı için optimize edilmiştir, ancak şirket diğer modelleri ve verileri desteklemek için genişletilebileceğini söylüyor.
TensorFlow Serving C ++ dilinde yazılmış. Yazılım performans için optimize edilmiştir ve şirket 16 çekirdekli bir Xeon makinesinde çekirdek başına saniyede 100.000’den fazla sorguyu işleyebileceğini söylüyor.
TensorFlow gibi projeler, makine öğrenme algoritmaları oluşturmayı ve bunları belirli veri girişi türleri için eğitmeyi kolaylaştırırken, TensorFlow Serving, bu modelleri üretim ortamlarında kullanılabilir hale getirme konusunda uzmanlaşıyor. Geliştiriciler, modellerini TensorFlow kullanarak eğitiyorlar ve ardından bir müşteriden gelen girdilere tepki vermek için TensorFlow Serving’in API’lerini kullanıyorlar. Google ayrıca, TensorFlow Serving’in işlemeyi hızlandırmak için bir makinedeki kullanılabilir GPU kaynaklarını kullanabileceğini de kaydediyor.
Google’ın da belirttiği gibi, böyle bir sistemi yerine koymak, geliştiricilerin modellerini üretime daha hızlı götürebilecekleri anlamına gelmiyor. Geliştiriciler modelleri geliştirirken veya çıktıları yeni gelen verilere dayanarak değiştikçe, mimarinin geri kalanı hala sabit kalmaktadır. TensorFlow Serving’in kodu – hem de birkaç ders – Apache 2.0 lisansı altında GitHub’da mevcut[2] .
[1] Running your models in production with TensorFlow Serving
Kaynak : 