Ejecutar inteligencia artificial en local sigue siendo demasiado complicado. No basta con descargar un modelo: hay que comprobar si funciona con la GPU, instalar las librerías adecuadas, adaptar el código y aceptar que muchas herramientas han sido pensadas primero para el ecosistema de Nvidia.
La startup francesa ZML quiere reducir esa dependencia con una plataforma de inferencia capaz de llevar un mismo modelo a diferentes aceleradores sin tener que reescribir todo el proyecto para cada fabricante.
La empresa ha presentado ZML v2, una nueva versión de su tecnología que busca compilar directamente los modelos para hardware de Nvidia, AMD, Google TPU y Amazon Trainium. El objetivo es ambicioso: separar el software de inteligencia artificial del chip concreto en el que termina ejecutándose.
El problema no es solo tener potencia
Cuando hablamos de IA local solemos centrarnos en la cantidad de memoria, la velocidad de la GPU o el número de TOPS. Todo eso importa, pero el hardware solo es una parte del problema. El software determina qué modelos funcionan, con qué rendimiento y cuánto trabajo necesita el usuario para ponerlos en marcha.
En nuestra guía sobre qué ordenador necesitas para usar inteligencia artificial en local ya vimos que una GPU potente no garantiza una experiencia sencilla. Windows, macOS y Linux utilizan herramientas diferentes, mientras que las arquitecturas ARM y x86 tienen sus propias limitaciones.
Nvidia parte con una ventaja enorme porque CUDA se ha convertido en el estándar de facto para gran parte del desarrollo de inteligencia artificial. Muchas aplicaciones se diseñan alrededor de sus librerías y solo después, si hay tiempo y recursos, se adaptan a AMD, Apple Silicon u otros aceleradores.
ZML propone compilar el modelo directamente para cada chip
La propuesta de ZML consiste en utilizar una misma base de código y compilarla para diferentes objetivos de hardware. La compañía afirma que su sistema puede trabajar con aceleradores de Nvidia y AMD, además de TPU de Google y Trainium de Amazon.
En lugar de apoyarse en una capa genérica que sacrifique rendimiento para funcionar en todas partes, ZML quiere generar código adaptado a cada plataforma. La empresa resume su filosofía como una ruta directa “del modelo al metal”, eliminando parte de las capas intermedias y evitando depender de un entorno de ejecución de Python en producción.
Según ha publicado TechCrunch, la compañía ha lanzado gratuitamente esta versión para facilitar que desarrolladores y empresas prueben su tecnología.
Esto no significa que cualquier modelo funcione en cualquier ordenador
La idea resulta atractiva, pero conviene evitar una interpretación demasiado optimista. ZML no convierte automáticamente una GPU modesta en una máquina capaz de ejecutar modelos enormes. La memoria disponible, la compatibilidad de las operaciones y las características físicas del acelerador siguen marcando los límites.
Tampoco elimina de golpe la ventaja de CUDA. Nvidia lleva años construyendo librerías, documentación, herramientas de desarrollo y soporte empresarial. Una alternativa puede ofrecer compatibilidad con varios chips, pero necesita demostrar que mantiene el rendimiento, que soporta suficientes modelos y que resulta estable en proyectos reales.
La primera audiencia de ZML no es el usuario que quiere instalar una aplicación con dos clics. Su propuesta está dirigida principalmente a desarrolladores y equipos que despliegan modelos y quieren evitar quedar atados a un único proveedor.
La dependencia de Nvidia se ha convertido en un riesgo
El dominio de Nvidia no se explica únicamente por la potencia de sus GPU. Su mayor ventaja es que gran parte del ecosistema ya habla su idioma. Cambiar a otro fabricante puede implicar meses de adaptación, incluso cuando el hardware alternativo ofrece un precio o una eficiencia interesantes.
Ese bloqueo preocupa a las empresas que necesitan comprar miles de aceleradores. Si una carga de trabajo puede trasladarse de Nvidia a AMD, TPU o Trainium sin reconstruir todo el software, resulta más fácil negociar precios y utilizar el hardware disponible en cada momento.
La misma discusión empieza a llegar al ordenador personal. Proyectos como Nvidia RTX Spark quieren convertir el PC en una máquina preparada para modelos locales, mientras Microsoft integra agentes y runtimes de IA directamente en Windows. Pero cada plataforma intenta atraer a los desarrolladores hacia su propio ecosistema.
Una pieza interesante en un mercado todavía fragmentado
ZML no es la primera empresa que intenta facilitar la portabilidad de modelos ni será la última. Existen formatos, compiladores y runtimes que persiguen objetivos parecidos. La diferencia estará en la facilidad de uso, el número de modelos compatibles y el rendimiento real que consiga en cada acelerador.
La versión gratuita permite que más desarrolladores comprueben esas promesas sin comprometerse desde el principio con una plataforma comercial. También puede ayudar a que la compañía reciba contribuciones, detecte incompatibilidades y amplíe el número de configuraciones soportadas.
Para el usuario normal, ZML todavía no es una aplicación que vaya a simplificar mañana la instalación de un modelo en su portátil. Pero sí apunta a uno de los problemas que decidirán el futuro de la IA local: que el software pueda aprovechar distintos chips sin obligarnos a elegir todo el ecosistema en función de una sola marca.
Si herramientas como esta funcionan, la competencia no se limitará a quién fabrica la GPU más rápida. También importará quién permite mover un modelo con menos fricción, menor coste y más libertad.
