IA local en Raspberry Pi 5 con Ollama

Quieres un «ChatGPT» que funcione en casa, sin nube y sin pagar, y tienes una Raspberry Pi 5. ¿Se puede? ¿Qué modelos aguanta y cómo lo haces sin abrir un agujero en tu red?

Por Kike · revisada en octubre de 2026 · Nivel: Intermedio · Cómo verificamos

Por qué pasa (diagnóstico)

• La Pi 5 lleva una CPU Broadcom BCM2712 de 4 núcleos Cortex-A76 a 2,4 GHz y se vende con 1, 2, 4, 8 o 16 GB de RAM. [RPi]
• Ollama no usa la GPU de la Pi: los modelos corren en la CPU. Por eso solo tienen sentido los modelos pequeños (de 0,5B a 3B parámetros aprox.).
• Tamaño de descarga de algunos modelos pequeños en la librería oficial de Ollama: qwen2.5:0.5b 398 MB, gemma3:1b 806 MB, qwen2.5:1.5b 986 MB, llama3.2:1b 1,3 GB, qwen2.5:3b 1,9 GB. Necesitas al menos esa RAM libre, más la del sistema. [Ollama library]
• Velocidad orientativa en una Pi (medida por un tercero, no por nosotros): ~13,6 tokens/s con TinyLlama 1,1B, ~9,2 con DeepSeek-R1 1,5B y ~3,7 con Phi-3 (3,8B). Es decir: con 1B va fluido, con 3-4B se hace lento. [NicoLabs, de terceros]
• Raspberry Pi recomienda refrigeración activa con carga alta y una fuente de 5 V / 5 A (la oficial de 27 W). Un modelo de IA es justo eso: carga alta sostenida. [RPi]

Solución paso a paso

1. Usa Raspberry Pi OS de 64 bits (Trixie o Bookworm; versiones anteriores no van en la Pi 5) actualizado, con disipador activo o la caja oficial con ventilador y la fuente de 27 W. [RPi]
2. Instala Ollama con el script oficial: curl -fsSL <a href="https://ollama.com/install.sh" target="_blank" rel="noopener">https://ollama.com/install.sh | sh (puedes leer el script antes en esa misma URL). Queda como servicio de systemd. [Ollama Linux]
3. Comprueba el servicio: sudo systemctl status ollama. [Ollama Linux]
4. Descarga y prueba un modelo pequeño: ollama run gemma3:1b (o qwen2.5:1.5b). Escribe una pregunta; sal con /bye. [Ollama library]
5. Desde la propia Pi, la API responde en http://localhost:11434/api. [Ollama API]
6. Si quieres usarlo desde otro ordenador de casa, mira la nota de seguridad de abajo antes de tocar nada.
7. ⚠️ Seguridad (no te la saltes)
8. Por defecto Ollama solo escucha en 127.0.0.1:11434 (solo la propia Pi). Es lo más seguro. [Ollama FAQ]
9. La API local no pide contraseña ni clave: quien llegue al puerto 11434 puede usar tus modelos, descargar otros y gastar tu CPU. [Ollama API: «Local requests do not [need an API key]»]
10. Si cambias OLLAMA_HOST (por ejemplo a 0.0.0.0:11434, con sudo systemctl edit ollama y una línea Environment="OLLAMA_HOST=0.0.0.0:11434"), Ollama queda accesible desde tu red. Hazlo solo en tu LAN (idealmente limitando con el cortafuegos a las IP de tus equipos) o por Tailscale. [Ollama FAQ]
11. Nunca lo expongas a internet: no abras ni redirijas el puerto 11434 en el router, ni lo pongas en DMZ, ni lo publiques con un túnel público.
12. Para usarlo fuera de casa, usa una VPN como Tailscale o WireGuard y entra a la Pi como si estuvieras en casa.

Requisitos

• Raspberry Pi 5 (mejor 8 GB o 16 GB; con 4 GB, modelos de 1B). [RPi]
• Raspberry Pi OS de 64 bits, refrigeración activa y fuente de 5 V / 5 A. [RPi]
• Espacio en disco para los modelos (de cientos de MB a varios GB); un SSD por PCIe va mejor que la microSD. [RPi]
• Si la Pi ya tiene Home Assistant, un modelo con carga sostenida puede ralentizarlo: mejor una Pi aparte o modelos pequeños.

Compatibilidad

• Raspberry Pi 5 con Raspberry Pi OS de 64 bits (Ollama publica binarios Linux ARM64). [Ollama Linux / GitHub]
• Modelos probados por terceros en Pi: los de 1B-1,5B van usables; 3B-4B, lentos.

Verificación

Documentado: resumen de las fuentes citadas (consultadas el 21-oct-2026). No lo hemos probado aún en nuestro laboratorio, por eso no está marcado VERIFICADO. Cómo comprobarlo: 1) sudo systemctl status ollama muestra «active (running)». [Ollama Linux] 2) ollama run gemma3:1b "Hola, ¿qué tal?" responde. 3) curl http://localhost:11434/api/tags lista los modelos instalados. [Ollama API] 4) Seguridad: desde un móvil con datos (fuera de tu Wi-Fi) el puerto 11434 de tu IP pública no debe responder.

Fuentes

• Ollama — instalación en Linux (en inglés) (en inglés)
• Ollama — FAQ, «How can I expose Ollama on my network?» y OLLAMA_HOST (en inglés) (en inglés)
• Ollama — API, URL local y autenticación (en inglés) (en inglés)
• Ollama — repositorio oficial en GitHub (en inglés) (en inglés)
• Ollama — librería de modelos: gemma3, qwen2.5, llama3.2 — gemma3 (en inglés) (en inglés)
• Ollama — librería de modelos: gemma3, qwen2.5, llama3.2 — qwen2.5 (en inglés) (en inglés)
• Ollama — librería de modelos: gemma3, qwen2.5, llama3.2 — llama3.2 (en inglés) (en inglés)
• Raspberry Pi — ficha oficial de Raspberry Pi 5: CPU, RAM, refrigeración, fuente y sistemas compatibles (en inglés) (en inglés)
• NicoLabs, «Ollama on Raspberry Pi», velocidades medidas por un tercero, no oficial (en inglés) (en inglés)

Guías relacionadas

• Ollama no responde desde otro ordenador de la red
• Ollama «olvida» lo que le has dicho: ampliar el contexto
• Guardar los modelos de Ollama en otro disco
• Ollama no usa la GPU
• Usar Ollama (LLM local) como agente de conversación en Home Assistant
• ¿Mi tarjeta gráfica sirve para Ollama?

Más guías de IA local.