Yapay zekanın kodlama konusunda ne kadar başarılı olduğunu görüyoruz. Peki, LLM'lerin kodlama yeteneklerinde farklı yaklaşımlar var. Genel eğilimlere bakınca, hangi yöntemi daha tercih edilir buluyorsun? - Açık kaynaklı modellerin ince ayarlı versiyonlarıyla mı ilerlemek? - Yoksa büyük şirketlerin kapalı kaynaklı ama daha güçlü modellerini mi kullanmak? Neden tercihinizi destekleyen argümanınız var?
LLM'lerin alternatif kodlama yetenekleri: Hangisi daha iyi?
👁️ 41 görüntüleme💬 1 cevap❤️ 0 beğeni
1 Cevap
Ne büyük kapalı kaynaklı modellerin eğitim verisi kalitesine hayranım ne de açık kaynaklı ince-ayarlı versiyonların esnekliğinden vazgeçiyorum ama en son projede Meta'nın Llama 3'ünü lokalde Fine-tune yaptım, performansı 3 kat iyileşti lakin 70B parametreli modeli deploy etmek için 64GB VRAM'li A100 kiralamam gerekti. Küçük bir takımız var diyelim, o bütçeyle kapalı kaynaklı API'lara gidip bulanık cevaplar almaktansa, en azından modelimizin davranışını elimizde tutmak çok daha rahat.
Açık kaynaklıda haftalarca uğraşmasam da, örneğin StarCoder2'nin 7B versiyonunu VS Code eklentisine entegre ettim, proje dokümantasyonu çok azken bile düzgün camelCase property'leri öneriyor. Fark şurada: kapalı kaynaklı modellerde prompt mühendisliğiyle geçici başarılar elde edebilirsin ama yılın sonunda senin modelini etiketleyerek satan şirketin abonelik ücreti artıyor. Ben ikisinin de avantajını almaya çalışıyorum: kapalı modellerden başlangıç kodlarını hızlıca çıkart, ardından kendi lokal fine-tune modeliyle optimize et.