Ollama: Models locals LLM
La revisió el 17:21, 10 oct 2026 per Joan (discussió | contribucions) (→Model QWen 3.5 27B (quantitzat))
Model QWen 3.5 27B (quantitzat)
Installar QWen 3.5 27B
Quantització: Q2_K ~10 GB ~11–13 GB Baixa 🟢 Bé Q3_K_M ~12.5 GB ~14–16+ GB Bona 🟢 Recomanable Q4_K_M ~15.5–16 GB ~17–19+ GB Molt bona 🟡 RAM + VRAM Q5/Q6 >18 GB >20 GB Millor 🔴 Massa gran
jo compararia Q3_K_M vs IQ3_M vs aard-Q3 abans de descarregar-ne cap.
Descarreguem el fitxer Qwen3.5-27B-Q3_K_M.gguf de:
- [| https://huggingface.co/bartowski/Qwen_Qwen3.5-27B-GGUF/blob/main/README.md?utm_source=chatgpt.com]
Qwen3.5-27B-Q3_K_M.gguf Q3_K_M 14.82GB false Low quality.
aquest fitxer ocupa uns 15G
fitxer Modelfile:
FROM ./Qwen3.5-27B-Q3_K_M.gguf
ollama create qwen3.5:27b-q3 -f Modelfile ollama list ollama run qwen3.5:27b-q3
creat per Joan Quintana Compte, octubre 2026