Diferència entre revisions de la pàgina «Ollama: Models locals LLM»

De wikijoan
Salta a la navegació Salta a la cerca
m
Línia 1: Línia 1:
−
=Model QWen 3.5 27B (quantitzat)=
+
__TOC__
−
Installar QWen 3.5 27B
+
=Instal·lació Ollama=
 +
 
 +
<pre>
 +
curl -fsSL https://ollama.com/install.sh | sh
 +
</pre>
 +
<pre>
 +
$ ollama -v
 +
ollama version is 0.34.1
 +
</pre>
 +
<pre>
 +
$ systemctl status ollama
 +
● ollama.service - Ollama Service
 +
    Loaded: loaded (/etc/systemd/system/ollama.service; enabled; preset: enabled)
 +
    Active: active (running) since Tue 2026-09-15 23:31:14 CEST; 29s ago
 +
  Main PID: 7980 (ollama)
 +
      Tasks: 15 (limit: 34856)
 +
    Memory: 72.6M (peak: 3
 +
</pre>
 +
 
 +
 
 +
 
  
 
<pre>
 
<pre>

Revisió del 17:49, 10 oct 2026

Instal·lació Ollama

curl -fsSL https://ollama.com/install.sh | sh
$ ollama -v
ollama version is 0.34.1
$ systemctl status ollama
● ollama.service - Ollama Service
     Loaded: loaded (/etc/systemd/system/ollama.service; enabled; preset: enabled)
     Active: active (running) since Tue 2026-09-15 23:31:14 CEST; 29s ago
   Main PID: 7980 (ollama)
      Tasks: 15 (limit: 34856)
     Memory: 72.6M (peak: 3



Quantització:
Q2_K	~10 GB	~11–13 GB	Baixa	🟢 Bé
Q3_K_M	~12.5 GB	~14–16+ GB	Bona	🟢 Recomanable
Q4_K_M	~15.5–16 GB	~17–19+ GB	Molt bona	🟡 RAM + VRAM
Q5/Q6	>18 GB	>20 GB	Millor	🔴 Massa gran

jo compararia Q3_K_M vs IQ3_M vs aard-Q3 abans de descarregar-ne cap.

Descarreguem el fitxer Qwen3.5-27B-Q3_K_M.gguf de:

Qwen3.5-27B-Q3_K_M.gguf 	Q3_K_M 	14.82GB 	false 	Low quality.

aquest fitxer ocupa uns 15G

fitxer Modelfile:

FROM ./Qwen3.5-27B-Q3_K_M.gguf
ollama create qwen3.5:27b-q3 -f Modelfile
ollama list
ollama run qwen3.5:27b-q3

creat per Joan Quintana Compte, octubre 2026