Ollama’da Q4, Q5 ve Q8 kuantizasyon karşılaştırması
Ollama kuantizasyon seçimi, yerel modelin hızını, bellek ihtiyacını ve çıktı kalitesini birlikte belirler. Q4, Q5 ve Q8 arasındaki farkları ve kendi donanımınızda doğru seviyeyi nasıl seçeceğinizi anlatıyorum.