No deberías elegir un modelo de IA local solo por el número de parámetros. Primero decide si lo necesitas para conversar en español, programar, resumir documentos, analizar imágenes o conectar herramientas; después comprueba si la variante adecuada cabe en tu ordenador.
Dos modelos del mismo tamaño pueden comportarse de forma muy distinta porque han sido entrenados y ajustados para tareas diferentes. La memoria actúa como límite técnico, pero la capacidad, el idioma, la licencia y el formato determinan si la descarga sirve para lo que quieres hacer.
La elección rápida según la tarea
| Uso principal | Qué debes buscar | Qué conviene probar |
|---|---|---|
| Chat y escritura | Versión Instruct y buen rendimiento en español | Seguimiento de instrucciones, tono y coherencia |
| Programación | Modelo especializado en código y contexto suficiente | Tu lenguaje, explicación de errores y edición de archivos |
| Documentos | Contexto amplio o integración con búsqueda semántica | Extracción, citas y resistencia a inventar datos |
| Imágenes | Modelo multimodal y aplicación compatible con visión | Texto pequeño, gráficos, fotografías y capturas |
| Agentes y automatización | Uso de herramientas y respuestas estructuradas | Llamadas a funciones, JSON y cumplimiento del esquema |
Para conversar y escribir, empieza por una variante Instruct
Los modelos Base están preparados principalmente para continuar texto; los modelos Instruct han sido ajustados para seguir órdenes y mantener conversaciones. Para redactar, resumir o pedir una respuesta con un formato concreto, la variante Instruct suele ser el punto de partida correcto.
Prueba el español con tareas reales y no solo con un saludo. Pídele que reescriba un párrafo, distinga dos conceptos y mantenga un tono durante varias respuestas. La ficha del modelo puede declarar los idiomas, pero la naturalidad y el vocabulario especializado se comprueban mejor con tus propios textos.
Para programar, el lenguaje y el contexto pesan más que una tabla general
Busca un modelo ajustado para código y comprueba si conoce los lenguajes y frameworks que utilizas. Un buen asistente debe completar funciones, explicar errores, modificar fragmentos sin romper el resto y respetar instrucciones sobre estructura. Una puntuación agregada no garantiza que funcione igual de bien con Python, JavaScript, Rust o un proyecto poco habitual.
El contexto importa cuando quieres mostrar varios archivos o mantener una sesión larga, pero ampliarlo consume memoria. Empieza con una ventana moderada y aumenta solo si el modelo pierde información necesaria. Para un agente que inspecciona repositorios, además necesitarás que la aplicación gestione herramientas y archivos de forma segura.
Para documentos, no basta con anunciar muchos tokens
Una ventana extensa permite introducir más texto, pero no garantiza que el modelo encuentre un dato enterrado ni que cite correctamente su origen. Para trabajar con manuales, contratos o archivos propios, busca una aplicación que pueda fragmentar, indexar y recuperar los pasajes relevantes, además de un modelo capaz de seguir instrucciones.
Haz una prueba sencilla: proporciona un documento que conozcas, formula preguntas cuya respuesta aparezca y añade otra que el texto no pueda resolver. El modelo útil debe localizar las primeras y reconocer la ausencia de información en la última, en lugar de completar el hueco con una invención.
Para analizar imágenes necesitas modelo, formato y aplicación compatibles
Un modelo multimodal puede recibir imágenes junto al texto para describir, clasificar o responder preguntas. Ollama documenta esta capacidad en su guía oficial de modelos con visión, pero la interfaz y la versión descargada también deben implementarla.
Comprueba el uso con capturas, fotografías y gráficos parecidos a los que procesarás. Algunos modelos describen bien una escena y fallan con texto pequeño, tablas o relaciones espaciales. Tampoco debes enviar documentos sensibles a extensiones remotas pensando que todo el flujo permanece en local.
Para agentes, busca herramientas y salidas estructuradas
Un agente necesita algo más que conversar: debe poder elegir una función, pasar argumentos válidos y usar el resultado. Ollama ofrece llamadas a herramientas y respuestas ajustadas a un esquema JSON con modelos compatibles. LM Studio también expone APIs locales para conectar aplicaciones.
Prueba siempre con acciones reversibles y sin acceso a datos críticos. Que un modelo admita herramientas no significa que elija bien cuándo utilizarlas ni que sus argumentos sean correctos. La aplicación debe validar cada operación y pedir confirmación antes de ejecutar cambios sensibles.
La ficha del modelo te cuenta lo que el nombre omite
Revisa la tarjeta o documentación antes de descargar. Hugging Face explica en su guía de model cards que allí pueden aparecer tarea, idiomas, licencia, modelo base, conjuntos de datos y resultados de evaluación. La licencia es especialmente importante si usarás las respuestas en un producto o servicio comercial.
Busca también limitaciones conocidas, formato compatible y procedencia de la cuantización. Un archivo GGUF publicado por un tercero puede derivar de un modelo oficial, pero conviene comprobar el modelo base y la relación indicada en la ficha.
Después llega el filtro del hardware
Cuando tengas dos o tres candidatos adecuados para la tarea, elige la cuantización que quepa con margen. LM Studio explica en su guía de descarga que Q representa una compresión que reduce tamaño a cambio de cierta calidad, y recomienda empezar por 4 bits o más si el equipo puede asumirlo.
Para las cifras concretas, consulta cuánta RAM o VRAM necesita un LLM local y deja margen para el contexto. Un modelo pequeño que permanece en la GPU o memoria unificada puede ofrecer una experiencia más útil que otro mayor repartido entre memoria y disco.
Una prueba común permite comparar de verdad
- Selecciona dos modelos Instruct compatibles con tu tarea y tu equipo.
- Usa exactamente las mismas cinco instrucciones en ambos.
- Valora exactitud, seguimiento del formato, español y velocidad.
- Repite una prueba con contexto o una herramienta si vas a necesitarlos.
- Conserva el modelo que resuelva mejor tu trabajo, no el que gane más tablas.
Puedes ejecutar las pruebas con LM Studio u Ollama siguiendo nuestra guía para instalar una IA local en Windows y Mac. Si buscas una interfaz accesible desde el navegador y varios proveedores, Open WebUI añade esa capa sobre el motor elegido; en esta comparación entre Ollama, LM Studio y Open WebUI explicamos qué función cumple cada herramienta.
El mejor modelo es el que falla menos en tu caso
No existe una descarga universal para chat, código, visión, documentos y agentes. Define primero la tarea, filtra por capacidad, idioma y licencia, y solo entonces adapta tamaño y cuantización al ordenador. Este orden reduce descargas inútiles y también evita pagar hardware para un modelo que no resuelve tu necesidad.
