Thinking Machines, Inkling 2 Small'u duyurdu

Mira Murati liderliğindeki Thinking Machines, yeni modeli Inkling 2 Small'u duyurdu.

Toplam 594 milyar parametreli MoE modelinde her yanıtta yalnızca 17 milyar aktif parametre çalışıyor. Ağırlıklar gelecek hafta Apache 2.0 lisansıyla tamamen açık kaynak sunulacak.

Model, görsel girdileri ve değişken işlem gücü harcama özelliğini destekliyor. AA Intelligence Index'te 31 puana ulaşan Inkling 2 Small, kodlama testlerinde çok daha büyük modelleri yakalıyor. Üstelik DesignArena kıyaslamasında dev kapalı modellerin hemen ardında 3. sırada.

Gelişmenin asıl önemi mimarisinde saklı. Yalnızca 17 milyar aktif parametre çalıştırması, yüksek donanım maliyetlerini ve işlem yükünü hafifletiyor. Kapalı modelleri yakalayan bir yapının açık lisansla gelmesi, yerel ya da ucuz çıkarım yapan geliştiricilere doğrudan yarıyor.

Modeli denemek isteyenler şu anda Tinker platformu üzerinden çıkarım ve ince ayar yapabiliyor. Bağımsız olarak kendi sunucusunda ya da yerelde çalıştırmak isteyenler içinse modelin tam ağırlıkları gelecek hafta Apache 2.0 lisansıyla genel indirmeye açılacak.