Diferència entre revisions de la pàgina «Ollama: Models locals LLM»
Salta a la navegació
Salta a la cerca
| Línia 14: | Línia 14: | ||
Descarreguem el fitxer Qwen3.5-27B-Q3_K_M.gguf de: | Descarreguem el fitxer Qwen3.5-27B-Q3_K_M.gguf de: | ||
| − | *[https://huggingface.co/bartowski/Qwen_Qwen3.5-27B-GGUF/blob/main/README.md?utm_source=chatgpt.com] | + | *[https://huggingface.co/bartowski/Qwen_Qwen3.5-27B-GGUF/blob/main/README.md?utm_source=chatgpt.com https://huggingface.co/bartowski/Qwen_Qwen3.5-27B-GGUF/blob/main/README.md?utm_source=chatgpt.com] |
<pre> | <pre> | ||
Qwen3.5-27B-Q3_K_M.gguf Q3_K_M 14.82GB false Low quality. | Qwen3.5-27B-Q3_K_M.gguf Q3_K_M 14.82GB false Low quality. | ||
Revisió del 17:24, 10 oct 2026
Model QWen 3.5 27B (quantitzat)
Installar QWen 3.5 27B
Quantització: Q2_K ~10 GB ~11–13 GB Baixa 🟢 Bé Q3_K_M ~12.5 GB ~14–16+ GB Bona 🟢 Recomanable Q4_K_M ~15.5–16 GB ~17–19+ GB Molt bona 🟡 RAM + VRAM Q5/Q6 >18 GB >20 GB Millor 🔴 Massa gran
jo compararia Q3_K_M vs IQ3_M vs aard-Q3 abans de descarregar-ne cap.
Descarreguem el fitxer Qwen3.5-27B-Q3_K_M.gguf de:
Qwen3.5-27B-Q3_K_M.gguf Q3_K_M 14.82GB false Low quality.
aquest fitxer ocupa uns 15G
fitxer Modelfile:
FROM ./Qwen3.5-27B-Q3_K_M.gguf
ollama create qwen3.5:27b-q3 -f Modelfile ollama list ollama run qwen3.5:27b-q3
creat per Joan Quintana Compte, octubre 2026