Perplexity karar modelini Mac'te yerel çalıştırdı

Perplexity, 4 milyar parametreli karar modeli pplx-decider-flash-v1.2'yi Mac bilgisayarlarda yerel çalıştıran uygulamasını yayımladı. Decider for Mac, API anahtarı gerekmeden doğrudan cihaz üzerinde hızlı kararlar üretiyor.

Uygulama, sistemde yerel bir karar API'si gibi çalışıyor. Bir metin veya görsel sunduğunda model tüm incelemeyi cihazında bitirip geriye bir olasılık puanı döndürüyor. 4 milyar parametreli model için Mac'inde 5,8 GB disk alanı ve en az 16 GB bellek gerekiyor.

Ajan sistemleri geliştirenler için en büyük avantaj maliyet ve gecikme tarafında. Her basit sınıflandırma için bulut modellerine para ödemek yerine, ilk yönlendirme kararını tamamen Mac'inde çözebilirsin. Üstelik verilerin dışarı çıkmıyor, internet kesilse bile çalışıyor.

Uygulama herhangi bir abonelik veya API anahtarı istemiyor, tamamen ücretsiz sunuluyor. macOS işletim sistemi ve yeterli donanımı olan herkes indirip deneyebilir. 16 GB belleği ve 5,8 GB boş alanı olan bir Mac kullanıyorsan hemen kurabilirsin.