Ollama: Models locals LLM

Model QWen 3.5 27B (quantitzat)

Installar QWen 3.5 27B

Quantització:
Q2_K	~10 GB	~11–13 GB	Baixa	🟢 Bé
Q3_K_M	~12.5 GB	~14–16+ GB	Bona	🟢 Recomanable
Q4_K_M	~15.5–16 GB	~17–19+ GB	Molt bona	🟡 RAM + VRAM
Q5/Q6	>18 GB	>20 GB	Millor	🔴 Massa gran

jo compararia Q3_K_M vs IQ3_M vs aard-Q3 abans de descarregar-ne cap.

Descarreguem el fitxer Qwen3.5-27B-Q3_K_M.gguf de:

• [[1]]

Qwen3.5-27B-Q3_K_M.gguf 	Q3_K_M 	14.82GB 	false 	Low quality.

aquest fitxer ocupa uns 15G

fitxer Modelfile:

FROM ./Qwen3.5-27B-Q3_K_M.gguf

ollama create qwen3.5:27b-q3 -f Modelfile
ollama list
ollama run qwen3.5:27b-q3