Saltar al contenido principal

Cómo instalar una IA local y 100% privada en tu PC (Ollama + Qwen)

12 min de lectura

Puedes tener un ChatGPT funcionando en tu ordenador. Sin cuenta, sin suscripción, sin límite de mensajes y sin que una sola palabra de lo que escribas salga de tu disco duro. Se instala en diez minutos y es gratis.

No es magia ni es un truco: se llama IA local, y en 2026 ya funciona lo bastante bien como para que merezca la pena. Pero también está rodeada de mitos. Hay quien te dirá que un modelo local sustituye a Claude o a GPT, y es mentira. Hay quien te dirá que no sirve para nada, y también es mentira.

Esta guía es el punto medio honesto: qué esperar de verdad, qué modelo te toca según tu hardware, cómo instalarlo en Windows, macOS o Linux, cómo ponerle una interfaz decente y cómo conectarlo a tus propios scripts. Paso a paso, sin saltarte nada.

Qué es exactamente una IA local

Una IA local es un modelo de lenguaje que se descarga entero a tu ordenador y se ejecuta con tu procesador, tu tarjeta gráfica y tu memoria. No hay servidor intermedio. No hay petición que viaje por internet. Cuando escribes una pregunta, el cálculo ocurre a treinta centímetros de tu cara.

Eso tiene tres consecuencias muy concretas:

  • Privacidad real. Lo que escribes no se envía a ninguna empresa, no entra en ningún log y no se usa para entrenar nada. Si trabajas con datos de clientes, contratos, historiales o cualquier cosa que no puedas pegar en una web ajena, esto lo cambia todo.
  • Funciona sin internet. En un avión, en un pueblo con mala cobertura o el día que se cae medio Cloudflare, tu IA sigue ahí.
  • Coste cero por uso. No hay tokens que pagar ni mensajes que se agoten. Puedes lanzarle diez mil peticiones a las tres de la mañana y no te cuesta un euro. Solo la luz.

Y una limitación igual de concreta: la calidad depende de tu hardware. Aquí no hay atajos.

La realidad técnica: modelos de frontera contra modelos locales

Este es el punto donde la mayoría de guías te mienten por omisión, así que vamos con la comparación real.

Los modelos de frontera (Claude, GPT, Gemini) corren en centros de datos que cuestan miles de millones. Cientos de miles de millones de parámetros, sin comprimir, con ventanas de contexto enormes y una capa de infraestructura que ninguna máquina doméstica puede replicar. Su terreno es el razonamiento complejo, la arquitectura de software completa y el análisis de documentación masiva.

Los modelos locales (Qwen, Llama, Mistral, Gemma) se ejecutan en tu GPU o en tu RAM. Son órdenes de magnitud más pequeños, y encima llegan comprimidos. A cambio son privados, gratuitos y tuyos.

La cuantización, explicada sin tecnicismos

Para que un modelo de 14.000 millones de parámetros quepa en una tarjeta gráfica de andar por casa, se aplica cuantización: se reduce la precisión con la que se guarda cada número interno del modelo. Un parámetro que ocupaba 16 bits pasa a ocupar 4.

Piénsalo como pasar un vídeo de 4K a 1080p. Sigue viéndose bien, sigue siendo la misma película, pero si haces zoom sobre un detalle diminuto se nota que falta información.

En la práctica, un modelo cuantizado a 4 bits (lo que Ollama descarga por defecto) mantiene casi toda su capacidad para:

  • Resumir textos y correos.
  • Reescribir y corregir.
  • Traducir.
  • Generar código sencillo y explicarlo.
  • Responder preguntas sobre un documento que le pegues.
  • Clasificar y extraer datos de forma estructurada.

Y pierde claramente frente a la nube en:

  • Razonamiento largo con muchos pasos encadenados.
  • Arquitectura de un sistema completo desde cero.
  • Trabajar con miles de líneas de contexto a la vez.
  • Matemáticas y lógica difíciles.

Si vas con esa expectativa, no te vas a decepcionar. Si esperas un Claude gratis en tu portátil, sí.

Paso 1: mira cuánta memoria tienes

Antes de descargar nada, necesitas saber con qué juegas. Lo que manda es la VRAM de tu tarjeta gráfica (o la memoria unificada, si tienes un Mac con chip de Apple). Si el modelo no cabe en la GPU, se ejecuta en la RAM del sistema con el procesador, y ahí la velocidad cae en picado.

Windows. Abre PowerShell y ejecuta:

Get-CimInstance Win32_VideoController | Select-Object Name, AdapterRAM

Si tienes NVIDIA, este comando es más fiable:

nvidia-smi

macOS. La memoria es unificada: la comparten CPU y GPU. Mira la RAM total del equipo con:

system_profiler SPHardwareDataType | grep "Memory"

Como regla práctica, cuenta con poder dedicar aproximadamente dos tercios de tu RAM total al modelo.

Linux. Con NVIDIA:

nvidia-smi --query-gpu=name,memory.total --format=csv

Y la RAM del sistema:

free -h

Paso 2: elige el modelo que te toca

Con el número de memoria delante, esta es la tabla honesta. Uso Qwen porque a día de hoy es la familia abierta con mejor relación calidad/tamaño, especialmente en español y en código.

  • Hasta 4 GB → qwen3:1.7b. Solo para tareas mecánicas: clasificar, etiquetar, extraer datos. No le pidas milagros.
  • De 4 a 6 GB → qwen3:4b. Resúmenes, correos y traducciones. Rápido, pero justito en razonamiento.
  • 8 GB → qwen3:8b. El punto de entrada decente. Sirve para el día a día sin frustrarte.
  • De 12 a 16 GB → qwen3:14b. El mejor equilibrio entre calidad y velocidad. Es el que recomiendo si tu equipo lo aguanta.
  • 24 GB o más → qwen3:32b, o qwen3:30b-a3b si prefieres velocidad. El segundo es de expertos mixtos: ocupa más en disco, pero responde mucho más rápido porque solo activa una parte del modelo en cada respuesta.

Si algún nombre te falla porque las etiquetas cambian con el tiempo, mira el catálogo actualizado en ollama.com/library/qwen3. La familia qwen2.5 sigue disponible y es una alternativa perfectamente válida y muy estable: qwen2.5:7b, qwen2.5:14b, qwen2.5:32b.

Un consejo que vale más que la tabla: empieza por el modelo pequeño. Descárgalo, pruébalo con tu trabajo real durante una tarde y sube de tamaño solo si te quedas corto. Ir al revés significa esperar veinte minutos de descarga para descubrir que tu equipo va a paso de tortuga.

Paso 3: instalar Ollama

Ollama es el programa que descarga, guarda y ejecuta los modelos. Es el equivalente a lo que Docker hizo con los contenedores: convirtió algo que era un infierno de dependencias en un comando de una línea.

Windows 10 y 11

  1. Entra en ollama.com/download y descarga el instalador para Windows (OllamaSetup.exe).
  2. Ejecútalo y sigue el asistente. Se instala solo y deja el comando disponible en la terminal.
  3. Cierra y vuelve a abrir PowerShell. Este paso se lo salta todo el mundo y luego el comando "no existe". Necesita reabrirse para leer el PATH nuevo.
  4. Comprueba que está instalado:
ollama --version
  1. Descarga y arranca el modelo:
ollama run qwen3:8b

La primera vez tarda: está bajando varios gigas. Las siguientes arranca en segundos.

macOS (Apple Silicon M1/M2/M3/M4 o Intel)

  1. Descarga la app desde ollama.com/download (te bajarás un Ollama-darwin.zip).
  2. Descomprime y arrastra Ollama a tu carpeta de Aplicaciones.
  3. Ábrelo desde el Launchpad. En el primer arranque te pedirá permiso para instalar la herramienta de línea de comandos: dale a permitir.
  4. Abre la Terminal y lanza el modelo:
ollama run qwen3:8b

Los Mac con Apple Silicon son sorprendentemente buenos aquí, porque la memoria unificada permite cargar modelos grandes sin una tarjeta gráfica dedicada. Un Mac de 32 GB mueve modelos que en un PC exigirían una gráfica de gama alta.

Linux (Ubuntu, Debian, Fedora, Arch)

  1. Abre la terminal y lanza el instalador oficial:
curl -fsSL https://ollama.com/install.sh | sh
  1. Cuando termine, el servicio de Ollama queda arrancado. Ejecuta el modelo:
ollama run qwen3:8b

Si tienes NVIDIA, asegúrate de tener los drivers propietarios instalados antes de esto. Sin ellos Ollama funciona igual, pero tirando de CPU, y la diferencia de velocidad es abismal. Puedes verificarlo con nvidia-smi.

Los comandos de Ollama que vas a usar de verdad

Con esto cubres el noventa y cinco por ciento del uso diario:

# Chatear con un modelo (lo descarga si no lo tienes)
ollama run qwen3:8b

# Solo descargar, sin abrir el chat
ollama pull qwen3:14b

# Ver qué modelos tienes en disco y cuánto ocupan
ollama list

# Ver qué se está ejecutando AHORA y si va por GPU o CPU
ollama ps

# Liberar la memoria de un modelo cargado
ollama stop qwen3:8b

# Borrar un modelo del disco
ollama rm qwen3:8b

ollama ps es el más importante de todos y casi nadie lo conoce. Te dice, en una columna llamada PROCESSOR, si el modelo está corriendo en la GPU, en la CPU o repartido entre ambas. Si ves 100% CPU, ahí tienes explicada tu lentitud.

Dentro del chat también hay comandos útiles: /bye para salir, /clear para borrar la conversación y empezar limpio, y /? para ver el resto.

Ponle cara: tu ChatGPT privado con interfaz gráfica

La terminal está bien para probar, pero para usarlo a diario querrás una interfaz de verdad. Dos opciones, de menos a más esfuerzo.

Opción A: Page Assist (la fácil)

Es una extensión de navegador que se conecta a tu Ollama local y te da una interfaz de chat completa. Se instala en dos clics desde la tienda de extensiones de Chrome o Firefox, detecta Ollama automáticamente y ya está. Si solo quieres chatear con tu modelo, empieza por aquí.

Opción B: Open WebUI (la completa)

Es prácticamente un clon de ChatGPT que corre en tu máquina: historial de conversaciones, varios modelos, usuarios, subida de documentos para preguntarles cosas. Requiere Docker instalado. Un solo comando:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway --name open-webui --restart always -v open-webui:/app/backend/data ghcr.io/open-webui/open-webui:main

Abre http://localhost:3000 en el navegador, crea tu cuenta local (se queda en tu equipo, no se registra en ningún sitio) y ya tienes tu ChatGPT privado. El flag --restart always hace que se levante solo cada vez que enciendes el ordenador.

Para pararlo o quitarlo:

docker stop open-webui
docker rm open-webui

Nivel siguiente: conecta la IA local a tus propios programas

Aquí es donde esto deja de ser un juguete y pasa a ser una herramienta de trabajo. Ollama levanta una API en http://localhost:11434 en cuanto se instala, y puedes llamarla desde cualquier script.

Una petición básica desde la terminal:

curl http://localhost:11434/api/generate -d '{
  "model": "qwen3:8b",
  "prompt": "Resume este correo en una frase: ...",
  "stream": false
}'

Y lo mejor: Ollama expone también un endpoint compatible con la API de OpenAI. Eso significa que cualquier librería o herramienta que ya hable con OpenAI funciona apuntándola a tu máquina, cambiando dos líneas:

import OpenAI from 'openai'

const client = new OpenAI({
  baseURL: 'http://localhost:11434/v1',
  apiKey: 'ollama', // se ignora, pero la librería lo exige
})

const respuesta = await client.chat.completions.create({
  model: 'qwen3:8b',
  messages: [
    { role: 'system', content: 'Eres un asistente que responde en español, breve y directo.' },
    { role: 'user', content: 'Clasifica este ticket de soporte: la web no carga en el móvil' },
  ],
})

console.log(respuesta.choices[0].message.content)

Ese fragmento, sin cambiar nada más, ya funciona sin internet y sin coste. Es la base para automatizar cosas de verdad: clasificar correos entrantes, extraer datos de facturas, generar resúmenes de reuniones o etiquetar tickets de soporte. Si te interesa el enfoque de meter modelos dentro del producto en lugar de al lado, lo desarrollé en SaaS por chat: cuando la interfaz es una conversación.

Personaliza el modelo con un Modelfile

Puedes crear tu propia versión de un modelo con una personalidad y unos ajustes fijos. Crea un fichero llamado Modelfile (sin extensión):

FROM qwen3:8b

# Menos temperatura = respuestas más deterministas y menos creativas
PARAMETER temperature 0.3

# Ventana de contexto en tokens. Súbela si le pasas documentos largos,
# pero ojo: consume memoria.
PARAMETER num_ctx 8192

SYSTEM """
Eres el asistente interno de una pyme española.
Respondes siempre en español, en tono profesional y directo.
Nunca inventas datos: si no sabes algo, lo dices.
"""

Y lo compilas:

ollama create asistente-pyme -f Modelfile
ollama run asistente-pyme

Ahora tienes un modelo propio, con su system prompt ya metido, listo para usar sin repetir instrucciones cada vez.

Errores comunes y cómo arreglarlos

"ollama: command not found" después de instalarlo en Windows. No has reabierto la terminal. Ciérrala del todo y ábrela otra vez.

Va lentísimo, palabra a palabra. Ejecuta ollama ps y mira la columna PROCESSOR. Si dice 100% CPU, el modelo no cabe en tu GPU. Baja de tamaño: de 14b a 8b, o de 8b a 4b.

Se queda a medias o se cierra solo. Falta de memoria. Cierra el navegador con cuarenta pestañas abiertas y vuelve a probar; si sigue, baja de modelo.

Se le olvida lo que le acabas de decir. Te has quedado sin ventana de contexto. Súbela con un Modelfile (PARAMETER num_ctx 8192) o divide el texto en trozos.

El puerto 11434 está ocupado. Ya tienes una instancia de Ollama corriendo de fondo. En Windows mírala en el icono de la bandeja del sistema; en Linux, con systemctl status ollama.

Open WebUI no encuentra Ollama. Es cosa del --add-host=host.docker.internal:host-gateway del comando. Si lo omitiste, el contenedor no ve tu máquina. Bórralo y vuelve a lanzarlo con el comando completo.

Entonces, ¿cuándo local y cuándo la nube?

No es una guerra. Yo uso las dos cosas todos los días, y el criterio es este:

Usa IA local cuando:

  • El dato no puede salir de tu equipo: clientes, contratos, historiales, nóminas.
  • La tarea es repetitiva y de alto volumen: clasificar, extraer, resumir, etiquetar. Miles de peticiones que en la nube te costarían dinero real.
  • Necesitas que funcione sin conexión.
  • Estás montando un prototipo y no quieres gastar en API mientras experimentas.

Usa la nube (Claude, GPT, Gemini) cuando:

  • Necesitas razonamiento complejo de verdad: arquitectura, refactors grandes, análisis largos.
  • Trabajas con contextos enormes: un repositorio entero, un libro, cientos de páginas.
  • La calidad de la respuesta importa más que el coste o la privacidad.

En mi caso: el modelo local se come el trabajo sucio y repetitivo, y la nube entra cuando hay que pensar.

El caso que casi nadie menciona: RGPD

Si tienes un negocio en España o en la UE, este apartado vale más que toda la parte técnica.

Meter datos personales de tus clientes en un chat de una empresa estadounidense no es automáticamente ilegal, pero te mete en un lío de responsabilidad, encargados de tratamiento, transferencias internacionales y consentimiento que la mayoría de pymes ni sabe que tiene encima.

Con un modelo local, ese problema desaparece de raíz: el dato nunca sale de tu infraestructura. No hay transferencia internacional porque no hay transferencia. Para procesar formularios de contacto, clasificar correos de clientes o resumir conversaciones de soporte, es la opción limpia.

Es exactamente el mismo razonamiento que aplico a la seguridad de una web: el mejor dato filtrado es el que nunca salió de casa. Sobre eso escribí los fallos de seguridad que deja una web hecha con IA.

Conclusión

Tener una IA privada corriendo en tu ordenador ha pasado de ser un experimento de entusiastas a algo que instalas en diez minutos y usas a diario. No sustituye a los modelos de frontera, y quien te diga lo contrario no los ha usado en serio. Pero cubre un espacio que la nube no puede cubrir: privacidad absoluta, coste cero por uso e independencia total de la conexión.

El resumen es corto. Mira tu memoria. Instala Ollama. Empieza por el modelo pequeño y sube si te quedas corto. Ponle Page Assist u Open WebUI si vas a usarlo a diario. Y cuando le pilles el punto, conéctalo a tus propios scripts por el puerto 11434, que es donde está el verdadero valor.

Lo importante no es tener la IA más potente. Es tener la adecuada para cada tarea, y saber cuál es cuál.

¿Quieres automatizar procesos de tu negocio con IA, en local o en la nube? Calcula tu presupuesto orientativo o escríbeme directamente.

Artículos relacionados:

Calcula tu presupuesto →