LLMs-from-scratch

Ne işe yarar?

Sebastian Raschka'nın kitabına eşlik eden bu depo, ChatGPT benzeri büyük bir dil modelini yani geniş metinlerle eğitilen yapay zekâyı sıfırdan geliştirmeyi öğretir. PyTorch kütüphanesi kullanılarak veri hazırlama, dikkat mekanizması, ön eğitim ve ince ayar yani modeli özel bir göreve uyarlama adımları uygulanır. Büyük ölçekli temel modellerin mimarisini küçük ama çalışan bir model üzerinde simüle ederek anlaşılır kılar. Ayrıca önceden eğitilmiş modellerin ağırlıklarını yükleyip ince ayar yapmayı sağlayan kodları da içerir.

Neler için kullanılabilir?

• PyTorch kullanarak sıfırdan GPT mimarisinde bir dil modeli geliştirmek
• Büyük dil modellerinin dikkat mekanizmasını ve iç çalışma mantığını derinlemesine anlamak
• Önceden eğitilmiş model ağırlıklarını yükleyerek özel görevler için ince ayar yapmak

Nasıl kullanılır?

1. Depoyu bilgisayarınıza klonlayın: git clone --depth 1 https://github.com/rasbt/LLMs-from-scratch.git
2. Depo içindeki setup dizininde bulunan README.md dosyasındaki ortam kurulum yönergelerini izleyin.
3. Bölüm klasörlerindeki Jupyter Notebook dosyalarını sırayla çalıştırarak modeli adım adım kodlayın.

Adımlar deponun README'sinden özetlendi; güncel kurulum için deponun kendi sayfasına bakın.

Kimler için?

Büyük dil modellerinin mimarisini ve iç dinamiklerini sıfırdan kodlayarak öğrenmek isteyen PyTorch geliştiricileri.

Aynı kategoriden

• prompts.chat Yapay zekâ sohbet modelleri için hazır istemleri keşfetmeyi ve paylaşmayı sağlar.
• awesome-llm-apps 100'den fazla yapay zekâ ajanı, ajan becerisi ve RAG uygulaması sunar.
• generative-ai-for-beginners Üretken yapay zekâ uygulamaları geliştirmeyi öğreten 21 derslik açık kaynak kurs.
• awesome-mcp-servers (96K) Farklı alanlardaki Model Bağlam Protokolü (MCP) sunucularını ve rehberleri listeler.
• ML-For-Beginners Klasik makine öğrenimi yöntemlerini 26 ders ve 52 testle uygulamalı öğreten müfredattır.
• llm-course Büyük dil modellerini temelden dağıtıma kadar anlatan açık eğitim yol haritası.