LLaMA modelleriyle fine‑tuning yaparken izlenecek genel adımlar ve ipuçları

22 Eyl 20:14

Kanka, fine‑tuning LLaMA’ya başlamadan önce veri setini sağlam bir temele oturtmak en kritik adım. Öncelikle temizleme aşamasında **boşluk, tekrarlanan satır ve anlamsız karakterleri** temizle; eğer metin çok dilli ise aynı dildeki örnekleri bir araya topla, çünkü tokenizasyon sırasında dil karışıklığı modelin performansını çökertir. LLaMA’nın tokenizer’ı **Byte‑Pair Encoding (BPE)** kullandığı için, özel bir vocab eklemek istemiyorsan `llama‑tokenizer` ile metni **utf‑8** olarak encode edip `max_length` sınırını (genelde 512‑1024) aşan örnekleri kırp ya da `truncation` ile otomatik kese. Uzun belgeler varsa, mantıksal cümle bazlı parçalama (sentence‑splitting) yapıp her parçayı ayrı örnek olarak eklemek, hem bellek hem de eğitim süresi açısından faydalı olur. Hiperparametrelerde ise öğrenme oranı (lr) en çok **2e‑5 – 5e‑5** arasında denemekle başla; düşük lr daha stabil, yüksek lr hızlı yakınsama ama çökme riski var. Batch size’ı GPU VRAM’e göre ayarlarken, **gradient accumulation** kullanarak “effective batch size”i artırabilirsin; örneğin 2‑4 gerçek batch + 8‑16 accumulation adımı. Epoch sayısı genelde **3‑5** yeterli; LLaMA büyük bir model olduğundan aşırı epoch overfit’e yol açabilir. Learning‑rate scheduler olarak cosine annealing ya da linear warm‑up (≈10% step) eklemek, erken durdurma (early stopping) ile validation loss’u izlemek iyi bir pratik. Düşük kaynaklı ortamda bellek yönetimi için **mixed‑precision (fp16)** zorunlu. `torch.cuda.amp` ya da `bitsandbytes` kütüphaneleriyle 8‑bit quantization da deneyebilirsin; bu sayede aynı GPU’da batch size’ı iki‑üç kat artırırsın. Ayrıca `gradient_checkpointing` aktif edip aktivasyonları yeniden hesaplatmak, VRAM’i %30‑40 azaltabilir. Modeli “LoRA” gibi hafif adaptasyon katmanlarıyla fine‑tune etmek de bellek ve compute açısından çok tasarruf sağlar. Sonuçları ölçerken sadece perplexity’ye bakmak yetmez; **BLEU, ROUGE‑L, METEOR** gibi n‑gram bazlı metrikler, **BERTScore** ve **GPT‑Eval** gibi semantik ölçütler de ekle. Eğer göreviniz soru‑cevap ya da diyalog ise **Exact Match** ve **F1** gibi task‑spesifik metrikleri, ayrıca **human evaluation** (kısa anket) yapmayı unutma. Ben genelde önce validation loss ve perplexity’e bakıp, ardından task‑spesifik metriklerle modelin gerçek dünyadaki performansını kontrol ederim. Bu adımları sırayla uygularsan, düşük kaynaklı bir makinede bile LLaMA’yı verimli bir şekilde ince ayar yapabilirsin. Valla denedikçe parametreleri ince ayarlamak lazım; sabırla dene, başarırsın!

22 Eyl 20:56

Fine‑tuning’e başlamadan önce veri setini “temiz” bir hâle getirmek en kritik adım. Kanka, özellikle LLaMA’nın SentencePiece tokenlayıcısıyla aynı vocab’u kullandığından, metinlerdeki HTML etiketleri, kontrol karakterleri ya da rastgele emoji gibi token’a dönüşmeyen şeyleri kesinlikle atmalısın. Satır içi boşlukları tek bir space’e indirgemek, aynı zamanda cümle sonlarında tutarlı noktalama (örn. her cümleyi “.” ile bitirmek) modelin öğrenmesini stabil tutar. Eğer çok dilli bir veriyle çalışıyorsan, dil‑etiketleri ekleyip aynı dil içinde tutarlı bir format korumak token‑dağınıklığını azaltır. Tokenizasyonda vocab‑üzerinde “add‑tokens” yapmaktan çekinme; özel isimler ya da domain‑spesifik terimler çok sık geçiyorsa bunları tokenizer’a ekleyip ID‑lerini sabit tutmak, öğrenme sürecini hızlandırır. Ardından hyper‑parametre ayarına gelecek olursak; düşük kaynaklı bir ortamda batch‑size’i GPU bellek sınırına göre en çok 2‑4 GB tutacak şekilde ayarlayıp, gradient accumulation ile etkili batch büyüklüğünü elde edebilirsin. Öğrenme oranı için “cosine‑annealing” ya da “linear‑warmup + decay” taktikleri işe yarar—valla, 1e‑4 ~ 3e‑5 arası bir start + 10 % warmup genelde stabil sonuç verir. Epoch sayısı ise veri setinin büyüklüğüne göre değişir; overfit riskine karşı early‑stopping ve validation loss izlemeyi unutma. Bellek yönetiminde mixed‑precision (fp16) zorunlu. PyTorch + accelerate ya da HuggingFace Trainer’da `torch.cuda.amp`’i aktif tut, gradient checkpointing de ekleyince VRAM ihtiyacını %30‑40’a kadar düşürebilir. Ayrıca `model.gradient_checkpointing_enable()` ve `torch.nn.DataParallel` yerine `torch.distributed` ile çoklu GPU kullanımını tercih et, bu da bellek dağılımını dengeler. Değerlendirme aşamasında sadece perplexity’ye bakmak yetmez; özellikle sohbet ya da kod üretimi gibi görevlerde BLEU, ROUGE‑L ve **GPT‑Eval** gibi n‑gram‑bazlı metriklerin yanı sıra insan‑jüri değerlendirmesi (kullanıcı‑memnuniyeti, yanıt tutarlılığı) de ekle. Eğer sınıflandırma/etiketleme yapıyorsan F1, precision‑recall curve’ları da gözden kaçırma. Bence, önce veri temizliği ve token‑ekleme, sonra bellek‑optimizasyonu, son olarak hyper‑parametre tuning’i sırayla yaparsan süreci daha sorunsuz yürütürsün. Başarılar!

22 Eyl 23:01

Kanka, geçen ay bir projede LLaMA‑7B’yi kendi chatbot veri setime fine‑tune ettim, süreci adım adım anlatayım; belki işine yarar. İlk adımda veri temizliği en kritik kısmı. Benim veri setim %30’da boş satır, HTML etiketi ve emoji içeriyordu; bunları regex ile temizledim ve aynı zamanda aynı soruya verilen farklı yanıtları “paraphrase” şeklinde birleştirerek veri çeşitliliği kattım. Tokenizasyon kısmında ise HuggingFace `LlamaTokenizerFast`’ı kullandım; `add_special_tokens=True` ve `truncation=True` parametrelerini set edip, max length’i 512 olarak sınırladım. Özellikle Türkçe’de “ş” ve “ç” gibi karakterlerin byte‑level tokenizasyonuna takılmadığını görmek güzel bir sürprizdi. Eğitim aşamasında hyperparametre ayarı için önce düşük bir learning‑rate (2e‑5) ve 4 GPU’da 1 GB VRAM sınırıyla batch size = 2 denedim; loss stabilizasyonu sağlandıktan sonra LR‑scheduler (cosine decay) ekleyip LR’i 5 epoch’da %0.5’e kadar düşürdüm. Epoch sayısını 3‑4 tutmak, overfit’tan kaçınmak için yeterli oldu; validation setinde perplexity ≈ 12, BLEU ≈ 23 gibi sonuçlar aldım. Düşük kaynaklı ortamda bellek yönetimi için `torch.cuda.empty_cache()` ve `gradient_checkpointing=True` (modelin ara aktivasyonlarını yeniden hesaplatmak) kullandım; bu sayede 7B modelini 12 GB VRAM’de çalıştırabildim. Mixed‑precision ise `torch.cuda.amp.autocast` ile FP16’da eğitmek, hem RAM hem de epoch süresini %30‑40 kısalttı. Değerlendirme kısmında sadece loss’a bakmak yetmez; ben perplexity, BLEU, ROUGE‑L ve özellikle insan‑in‑the‑loop testleri (örnek sohbetler) yaptım. Yanıtların tutarlılığı ve özgünlüğü için `self‑BLEU` ve `BERTScore` de ekleyip, düşük skoru olan örnekleri tekrar veri setine ekleyerek iteratif bir iyileştirme döngüsü kurdum. Özetle, veri temizliğini ve tokenizasyonu sağlam bir temele oturt, learning‑rate ve batch size’i düşükten başlayıp scheduler ile artır, bellek sıkıntısı varsa gradient checkpointing + mixed‑precision, ve sonuçları perplexity + BLEU + insan değerlendirmesiyle ölç. Bu adımları takip edersen, düşük kaynaklı bir makinede bile LLaMA’yı rahatlıkla fine‑tune edebilirsin. Umarım faydalı olur!