Diferència entre revisions de la pàgina «Ollama: Models locals LLM»
Salta a la navegació
Salta a la cerca
m |
|||
| Línia 1: | Línia 1: | ||
| − | = | + | __TOC__ |
| − | + | =Instal·lació Ollama= | |
| + | |||
| + | <pre> | ||
| + | curl -fsSL https://ollama.com/install.sh | sh | ||
| + | </pre> | ||
| + | <pre> | ||
| + | $ ollama -v | ||
| + | ollama version is 0.34.1 | ||
| + | </pre> | ||
| + | <pre> | ||
| + | $ systemctl status ollama | ||
| + | ● ollama.service - Ollama Service | ||
| + | Loaded: loaded (/etc/systemd/system/ollama.service; enabled; preset: enabled) | ||
| + | Active: active (running) since Tue 2026-09-15 23:31:14 CEST; 29s ago | ||
| + | Main PID: 7980 (ollama) | ||
| + | Tasks: 15 (limit: 34856) | ||
| + | Memory: 72.6M (peak: 3 | ||
| + | </pre> | ||
| + | |||
| + | |||
| + | |||
<pre> | <pre> | ||
Revisió del 17:49, 10 oct 2026
Contingut
Instal·lació Ollama
curl -fsSL https://ollama.com/install.sh | sh
$ ollama -v ollama version is 0.34.1
$ systemctl status ollama
● ollama.service - Ollama Service
Loaded: loaded (/etc/systemd/system/ollama.service; enabled; preset: enabled)
Active: active (running) since Tue 2026-09-15 23:31:14 CEST; 29s ago
Main PID: 7980 (ollama)
Tasks: 15 (limit: 34856)
Memory: 72.6M (peak: 3
Quantització: Q2_K ~10 GB ~11–13 GB Baixa 🟢 Bé Q3_K_M ~12.5 GB ~14–16+ GB Bona 🟢 Recomanable Q4_K_M ~15.5–16 GB ~17–19+ GB Molt bona 🟡 RAM + VRAM Q5/Q6 >18 GB >20 GB Millor 🔴 Massa gran
jo compararia Q3_K_M vs IQ3_M vs aard-Q3 abans de descarregar-ne cap.
Descarreguem el fitxer Qwen3.5-27B-Q3_K_M.gguf de:
Qwen3.5-27B-Q3_K_M.gguf Q3_K_M 14.82GB false Low quality.
aquest fitxer ocupa uns 15G
fitxer Modelfile:
FROM ./Qwen3.5-27B-Q3_K_M.gguf
ollama create qwen3.5:27b-q3 -f Modelfile ollama list ollama run qwen3.5:27b-q3
creat per Joan Quintana Compte, octubre 2026