Diferència entre revisions de la pàgina «Ollama: Models locals LLM»

De wikijoan
Salta a la navegació Salta a la cerca
Línia 14: Línia 14:
 
Descarreguem el fitxer Qwen3.5-27B-Q3_K_M.gguf de:
 
Descarreguem el fitxer Qwen3.5-27B-Q3_K_M.gguf de:
  
−
*[[https://huggingface.co/bartowski/Qwen_Qwen3.5-27B-GGUF/blob/main/README.md?utm_source=chatgpt.com | https://huggingface.co/bartowski/Qwen_Qwen3.5-27B-GGUF/blob/main/README.md?utm_source=chatgpt.com]]
+
*[https://huggingface.co/bartowski/Qwen_Qwen3.5-27B-GGUF/blob/main/README.md?utm_source=chatgpt.com | https://huggingface.co/bartowski/Qwen_Qwen3.5-27B-GGUF/blob/main/README.md?utm_source=chatgpt.com]
 
<pre>
 
<pre>
 
Qwen3.5-27B-Q3_K_M.gguf Q3_K_M 14.82GB false Low quality.
 
Qwen3.5-27B-Q3_K_M.gguf Q3_K_M 14.82GB false Low quality.

Revisió del 17:21, 10 oct 2026

Model QWen 3.5 27B (quantitzat)

Installar QWen 3.5 27B

Quantització:
Q2_K	~10 GB	~11–13 GB	Baixa	🟢 Bé
Q3_K_M	~12.5 GB	~14–16+ GB	Bona	🟢 Recomanable
Q4_K_M	~15.5–16 GB	~17–19+ GB	Molt bona	🟡 RAM + VRAM
Q5/Q6	>18 GB	>20 GB	Millor	🔴 Massa gran

jo compararia Q3_K_M vs IQ3_M vs aard-Q3 abans de descarregar-ne cap.

Descarreguem el fitxer Qwen3.5-27B-Q3_K_M.gguf de:

Qwen3.5-27B-Q3_K_M.gguf 	Q3_K_M 	14.82GB 	false 	Low quality.

aquest fitxer ocupa uns 15G

fitxer Modelfile:

FROM ./Qwen3.5-27B-Q3_K_M.gguf
ollama create qwen3.5:27b-q3 -f Modelfile
ollama list
ollama run qwen3.5:27b-q3

creat per Joan Quintana Compte, octubre 2026