Eski OpenAI CTO'su Mira Murati'nin kurduğu Thinking Machines Lab, ilk büyük modeli Inkling'i duyurdu. 975 milyar toplam parametreye sahip olan model, herhangi bir görev için yalnızca 41 milyar aktif parametre kullanan bir mixture-of-experts mimarisiyle çalışıyor. 1 milyon token'a kadar bağlam penceresini işleyebilen Inkling, 45 trilyon token metin, görsel, ses ve video üzerinde eğitildi. Şu an için sadece metin (kod ve yapılandırılmış veri dahil) çıktısı üretebiliyor.
İlginç olan, Thinking Machines'in Inkling'in en iyi model olduğunu iddia etmemesi. Kendi dokümanlarında modeli 'bugün mevcut olan en güçlü model değil, açık ya da kapalı' olarak tanımlıyorlar. Laboratuvar bunun yerine genişlik ve uyarlanabilirlik peşinde. Inkling, bitmiş bir sohbet robotu değil, kuruluşların kendi işlerine göre ince ayar yapabileceği geniş, dengeli bir temel model olarak tasarlanmış.
Kullanıcılar, 'düşünme çabasını' artırıp azaltarak doğruluk ile hız arasında denge kurabiliyor. Şirket, bir kodlama testinde Inkling'in Nvidia'nın Nemotron 3 Ultra'sına üçte bir oranında daha az token kullanarak rakip olduğunu belirtiyor. Ayrıca daha hafif olan Inkling-Small modeli de tanıtıldı; 12 milyar aktif parametreyle maliyet ve hızın önemli olduğu işler için uygun.
Detaylar ve Etkileri
Thinking Machines'in temel iddiası, tek bir yerde eğitilip dondurulan yapay zekanın, her kuruluşun kendi uzmanlığına göre şekillendirebildiği yapay zekaya kaybedeceği yönünde. Müşteriler, Tinker adlı özelleştirme platformu üzerinden Inkling'e ince ayar yapıyor ve ortaya çıkan modelin sahibi oluyor. Ayrıca oluşturdukları modelin güvenlik riskini de üstleniyorlar.
Uzmanların Görüşleri
Laboratuvar, hedge fon Bridgewater ile yaptıkları projeyi kanıt olarak gösteriyor. İki şirket, Bridgewater'ın finansal bilgisiyle açık bir model eğitti ve model finansal muhakeme testlerinde %84,7 başarı elde ederek en iyi tescilli modelleri çok daha düşük maliyetle geçti. Ancak bu rakam, bağımsız bir değerlendirme değil, iki şirketin kendi değerlendirmesi.
Thinking Machines, Inkling'i yaklaşık dokuz ayda piyasaya sürdüğünü vurguluyor. Eğitime başlamak için Moonshot'ın Kimi K2.5 dahil diğer açık modellerden yararlandıklarını (distilasyon) ancak bir sonraki modelin tamamen kendi eğitimleriyle olacağını belirtiyorlar. Inkling, Nvidia'nın GB300 sistemlerinde çalıştırıldı. Şirket şu ana kadar 2 milyar dolar yatırım topladı ve 12 milyar dolar değerlemeye ulaştı; ancak bildirilen 50 milyar dolarlık yatırım turu durdu.
Kaynak: thenextweb.com
