DeepSeek, üretim motorunu açık kaynak yaptı

DeepSeek, V4.1-Flash modelini büyük ölçekte çalıştırmak için kendi sistemlerinde kullandığı DeepInfer çıkarım motorunu Apache 2.0 lisansıyla tamamen açık kaynak yaptı. Paylaşılan altyapı, açık ağırlıklı modellerin donanım ve enerji maliyetlerini düşürmeyi hedefliyor.

Sistem temel hız artışını spekülatif kod çözme yöntemiyle sağlıyor. Hafif bir taslak mekanizması sonraki 5 kelimeye kadar tahmin yürütüyor, ana model bunları tek seferde onaylıyor. Ayrıca OpenAI ve Anthropic isteklerini çeviren deepseek-recipe bileşeni de MIT lisansıyla açıldı.

Yapay zekâda yalnızca model ağırlıklarını paylaşmak yetmiyor; bunları sunucularda ucuza çalıştırmak ayrı bir mühendislik istiyor. DeepSeek kendi üretim hattını dağıtarak, bağımsız geliştiricilerin ve bulut sağlayıcıların kapalı modellere olan altyapı bağımlılığını azaltıyor.

DeepInfer kişisel bilgisayarlarda çalışmıyor; Nvidia Blackwell ve Huawei Ascend 950 gibi veri merkezi çiplerine ihtiyaç duyuyor. Resmi testler 4 ila 64 kartlık kümelerde yapıldı. Kendi sunucusunu kuran yerli şirketler ve bulut sağlayıcılar kodu hemen kullanmaya başlayabilir.