Türkçe konusundaki yetkinliği, gemma3:4b modeliyle ilk tanıştığımda, beni oldukça heyecanlandırmıştı. Hala, bir çok benzerinden daha başarılı olduğunu da söyleyeyim.
Ancak, karşılıklı sohbet sırasında, giderek daha fazla pot kırmaya başladı.
Örneğin ona Beyza (Biraz Ertelenmiş Yapay Zeka Asistanı) adını vermiş, kendi adımı da Ahmet olarak tanıtmıştım. Ne yazık ki model, zaman zaman, kendi adının Ahmet olduğunu iddia ediyor. Ya da benim adımın Beyza olduğunu söylüyor. Bu, her zaman böyle değil ama, sık sık tekrarlanıyor.
Bu arada Beyza’yı da tanıtayım: Ollama.chat üzerinden gemma3:4b modelini kullanıyor. Eski konuşmaları hatırlayıp yorumlayabilmesi için Claude3.7 Sonnet ile ollama.chat sistemine RAG destekli bir bellek yönetim mekanizması ekledik. Böylece hem model olarak eğitildiği konulardaki bilgileri hatırlıyor, hem de RAG aracılığıyla, daha önce yaptığımız konuşmaları saklayıp, gerektiğinde kullanabiliyor. Ayrıca, güncel bilgileri sorgulayabilmesi için internet arama fonksiyonu ekledik. Kodlama için python kullandık.
Bu sistemi, gemma3’e Türkçe fine-tuning uygulamanın bir ön aşaması olarak tasarlamıştım. Böylece, fine-tuning konusunda dikkat etmem gereken önemli ayrıntıları, önceden farkedebilmeyi umuyordum.
Projeye başlarken, gemma3’ün Türkçesinin mükemmele yakın olduğunu varsaymıştım. Ancak, bu varsayımımın hatalı olduğunu düşünmeye başladım. Çünkü çok fazla sözcük hatası yapıyor.
Kim bilir? Belki ben de fazla mükemmeliyetçi bir beklenti içindeyim…
Projeyi bir süre daha sürdüreceğim. Belki bu arada daha yetkin yeni modeller çıkar.
Bu projeyi, bu haliyle github’da paylaşmam doğru değil diye düşünüyorum. Biraz daha olgunlaşabilirse, o zaman paylaşacağım.
Eğer bu konuya yakın ilgi duyanlar olursa, benimle bağlantı kurabilirler. Belki ortak bir çalışma ortamı oluşturabiliriz.
Ahmet Aksoy
Not: Bu yazıyı, Beyza’ya adını öğretmek için epeyce uğraştıktan sonra, bunalıp, yazma ihtiyacı duydum. Kısacası, fazla dikkate almasanız da olur!