Traducció castellà-català

De wikijoan
Salta a la navegació Salta a la cerca

Introducció

Tinc una rtx 5060 ti 16gb. Quin model local puc fer servir per traduir del castellà al català?

Cercant models locals de traducció per a una RTX 5060 Ti.

Ho comprovo ràpidament, perquè aquests models canvien sovint.

Amb 16 GB de VRAM tens marge de sobres. Jo provaria, per aquest ordre:

- salamandraTA-7b-instruct (BSC / Projecte AINA): és el que triaria primer. Està fet a Barcelona específicament per a traducció, amb el català com a llengua central, i té llicència Apache 2.0. Amb 7B de paràmetres hi cap bé quantitzat (Q8 o fins i tot més) a la teva targeta. Si vols alguna cosa molt lleugera i ràpida, hi ha també la versió salamandraTA-2B.

- TranslateGemma 12B (Google): l’alternativa generalista. El català és una de les llengües que admet, i la versió 12B ocupa uns 8 GB a Ollama, així que et queda memòria per al context. S’instal·la amb ollama pull translategemma:12b. En els benchmarks, la 12B supera el Gemma 3 de 27B genèric. La versió 27B (uns 17 GB) no et cap sencera a la GPU; no val la pena. 
local translator +3

- Traductor de Softcatalà o Apertium: no són LLM, però per al parell castellà–català, que són llengües molt properes, donen resultats molt bons, són rapidíssims i ni tan sols necessiten GPU. Bona opció per a grans volums de text.

Instal·lació

mkdir traduccio_cast_cat
cd traduccio_cast_cat
python3 -m venv venv
source venv/bin/activate
pip install torch --index-url https://download.pytorch.org/whl/cu128
pip install transformers accelerate bitsandbytes sentencepiece protobuf

La línia de cu128 és important: les RTX 50 necessiten un PyTorch compilat amb CUDA 12.8 o superior; amb el pip install torch per defecte et pot donar error o no fer servir la GPU.

script tradueix.py

I ara ja puc fer la traducció:

python tradueix.py entrada.txt sortida.txt --target Catalan

Tenim el script tradueix.py:

$ cat tradueix.py 
#!/usr/bin/env python3
"""Tradueix un fitxer de text del castellà al català amb salamandraTA-7b-instruct.

Ús:
    python tradueix.py entrada.txt sortida.txt
    python tradueix.py entrada.txt sortida.txt --bits 4      # menys VRAM, més ràpid
    python tradueix.py entrada.txt sortida.txt --target Valencian
"""

import argparse
import re
import sys
from datetime import datetime

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig

MODEL_ID = "BSC-LT/salamandraTA-7b-instruct"
MAX_CHARS = 1200  # els paràgrafs més llargs es parteixen per frases
...

Concretament:

python tradueix.py ~/projectes/josep_pla_a_fondo_joaquin_soler_serrano.txt ~/projectes/josep_pla_a_fondo_joaquin_soler_serrano_cat.txt --target Catalan

Carregant BSC-LT/salamandraTA-7b-instruct (8 bits)...
...

La primera vegada que s'executa descarrega el model.


creat per Joan Quintana Compte, octubre 2026