Configurar Ollama con GPU AMD Radeon RX 6600 en openSUSE Leap 15.6

Hardware

Componente	Detalle
CPU	AMD Ryzen 5 5600X 6-Core
RAM	32 GB
GPU	AMD Radeon RX 6600 (Navi 23, gfx1032) - 8 GB VRAM

Software

Componente	Versión
Sistema operativo	openSUSE Leap 15.6
Kernel	6.4.0-150600.23.92-default
Escritorio	KDE Plasma 5.27.11
Ollama	0.20.5

El problema

Ollama no detectaba la GPU AMD y ejecutaba los modelos completamente en CPU. La causa raíz fue tener Ollama instalado a través de Homebrew (linuxbrew). El binario de linuxbrew usa su propio linker y busca las librerías en rutas propias de brew, lo que impide cargar correctamente las librerías ROCm necesarias para la aceleración por GPU.

Solución paso a paso

1. Desinstalar la versión de Homebrew

brew uninstall ollama

2. Instalar Ollama con el script oficial

curl -fsSL https://ollama.com/install.sh | sh

Esto instala el binario en /usr/local/bin/ollama y las librerías base en /usr/local/lib/ollama/.

3. Instalar las librerías ROCm para AMD

curl -fsSL https://ollama.com/download/ollama-linux-amd64-rocm.tar.zst \
    | sudo tar x -C /usr

Esto extrae las librerías ROCm en /usr/local/lib/ollama/rocm/, donde el binario oficial espera encontrarlas.

4. Configurar la variable HSA_OVERRIDE_GFX_VERSION

La Radeon RX 6600 tiene el identificador gfx1032, que no está oficialmente soportado por ROCm. Es necesario sobreescribir la versión a 10.3.0 (equivalente a gfx1030) para que sea reconocida.

Editar el servicio de systemd:

sudo systemctl edit ollama

Agregar:

[Service]
Environment="HSA_OVERRIDE_GFX_VERSION=10.3.0"

Aplicar los cambios:

sudo systemctl daemon-reload
sudo systemctl restart ollama

5. Verificar

ollama run qwen3:0.6b "hola" --verbose
ollama ps

La columna PROCESSOR debe mostrar 100% GPU.

Resultado

Métrica	CPU	GPU
Velocidad de evaluación	~74 tokens/s	~186 tokens/s
Procesador usado	100% CPU	100% GPU

Mejora de aproximadamente 2.5x en velocidad de inferencia al usar la GPU.

Monitoreo de GPU

• Terminal: radeontop o instalar nvtop (sudo zypper install nvtop)
• KDE: Agregar el widget "Monitor del sistema" al panel y seleccionar los sensores de GPU

Notas

• Si un modelo excede los 8 GB de VRAM, Ollama dividirá la carga automáticamente entre GPU y CPU.
• La variable HSA_OVERRIDE_GFX_VERSION=10.3.0 es necesaria para GPUs AMD de la serie RDNA 2 que no están oficialmente listadas en ROCm (como la RX 6600, RX 6600 XT, RX 6650 XT).