MiniCPM-V

Ne işe yarar?

MiniCPM-V, akıllı telefon ve kişisel bilgisayar gibi uç cihazlarda yerel çalışan çok modlu bir yapay zekâ modelidir. Görsel anlama, ses işleme ve metin üretimi yeteneklerini tek bir çatıda bir araya getirir. 35B-A3B sürümü, uzmanlar karışımı (MoE) mimarisi sayesinde iPhone üzerinde yalnızca 3 GB bellekle akıcı biçimde çalışabilir. Verileri harici sunuculara göndermeden doğrudan kullanıcı cihazı üzerinde güvenli çıkarım sağlar.

Neler için kullanılabilir?

• Akıllı telefonda internet bağlantısı olmadan fotoğrafları ve görselleri analiz edip açıklamak
• Mobil cihaz üzerinde yerel olarak çalışan görsel soru-cevap asistanı geliştirmek
• Uç cihazlarda düşük bellek tüketimiyle gerçek zamanlı çok modlu etkileşim sağlamak

Nasıl kullanılır?

1. Hugging Face üzerinden 1B veya 35B-A3B model ağırlıklarını indirin.
2. Cihazınıza uygun iOS, Android veya masaüstü çalışma ortamını yapılandırın.
3. llama.cpp-omni veya DSpark araçlarıyla modeli cihaz üzerinde yerel olarak çalıştırın.

Adımlar deponun README'sinden özetlendi; güncel kurulum için deponun kendi sayfasına bakın.

Kimler için?

Mobil ve uç cihazlarda yerel yapay zekâ modelleri çalıştırmak isteyen geliştiriciler.

Aynı kategoriden

• Ollama Açık yapay zekâ modellerini yerel bilgisayarda kolayca indirip çalıştırmayı sağlar.
• open-webui Ollama ve diğer yapay zekâ modellerini tarayıcı üzerinden kullanmayı sağlar.
• unsloth (78K) Büyük dil ve görsel modellerini bilgisayarınızda yerel çalıştırıp hızlıca eğiten araç.
• litellm 100'den fazla yapay zekâ modelini tek ve standart bir API formatıyla çağırmayı sağlar.
• cherry-studio Bulut ve yerel yapay zekâ modellerini tek masaüstü arayüzünden yönetmeyi sağlar.
• LocalAI (49,6K) Tüm yapay zekâ modellerini GPU zorunluluğu olmadan yerel çalıştıran API motoru.