IBM ve Together AI, açık kaynaklı yapay zeka için 240 milyon dolarlık iş birliği yaptı
IBM ve Together AI, açık kaynaklı yapay zeka modellerinin çıkarım süreçlerini ölçeklendirmek üzere 240 milyon dolarlık çok yıllı bir anlaşma imzaladı.
Yapay zeka odaklı bulut platformu Together AI, kısa süre önce 800 milyon dolarlık bir yatırımla değerlemesini 8,3 milyar dolara çıkarmıştı. Şimdi ise şirket, IBM ile açık kaynaklı yapay zeka modellerinin çıkarım süreçlerini hızlandırmak için önemli bir iş birliğine imza attı. 240 milyon dolar değerindeki bu çok yıllı anlaşma kapsamında IBM, kendi bulut platformu IBM Cloud üzerinde Nvidia HGX B300 sistemlerinden oluşan devasa bir altyapı kuracak.
Together AI, bu yeni altyapıyı açık kaynaklı modellere yönelik çıkarım hizmetlerini sunmak amacıyla kullanacak. Söz konusu altyapının 2027'nin ilk çeyreğinde faaliyete geçmesi planlanıyor. Bu kurulum aynı zamanda, IBM Cloud üzerinde Nvidia HGX B300 ve Spectrum-X Ethernet teknolojileriyle doğrudan çıkarım iş yükleri için tasarlanan ilk büyük ölçekli özel küme olma özelliğini taşıyor.
Kurulacak altyapının merkezinde, her biri sekiz Blackwell Ultra hızlandırıcı içeren Nvidia HGX B300 sistemleri bulunacak. Bu sistemler, Nvidia Spectrum-X Ethernet ağ teknolojisiyle desteklenecek. Nvidia'ya göre, bu yeni altyapı önceki nesil sistemlere kıyasla 30 kata kadar daha yüksek “AI factory” çıktısı sağlayabilecek. Hızlandırıcılar arasındaki veri trafiği ConnectX-8 SuperNIC bileşenleri tarafından yönetilirken, BlueField-3 veri işleme birimi sistem ile harici altyapılar arasındaki veri akışını koordine edecek.
Together AI’ın platformu, yapay zeka modellerinin çıkarım, eğitim ve ince ayar süreçlerinin yanı sıra yapay zeka ajanlarına yönelik iş akışlarını da destekliyor. Şirket, şu an aylık yaklaşık 400 trilyon token işlediğini belirtiyor. Bu yeni kapasite, özellikle üretim ortamlarında açık kaynaklı modeller kullanan kurumsal müşterilere daha yüksek performans ve daha düşük token maliyeti sunmayı hedefliyor.
Bu anlaşma, Together AI'ın kurumsal pazardaki büyümesini desteklerken, IBM'in hızla genişleyen yapay zeka altyapısı pazarındaki konumunu güçlendirmeyi amaçlıyor. IBM açısından bakıldığında, bu iş birliği şirketin Nvidia ile GPU tabanlı veri analitiği, hibrit bulut altyapısı ve kurumsal yapay zeka çözümleri alanlarındaki çalışmalarının doğal bir devamı niteliğinde. Together AI CEO'su Vipul Ved Prakash, şirketlerin kapalı modellere özgü maliyetlere katlanmadan gelişmiş modellerin performansından yararlanmak istediğini ve bunun hızlı, güvenilir bir altyapıyla mümkün olacağını vurguluyor.
