La memoria determina qué LLM puedes cargar y con cuánto contexto. Estas son las cifras útiles para modelos de lenguaje locales con 8, 16, 32 y 64 GB.
GPU
¿Qué es el procesador de un móvil y por qué es mucho más que velocidad?
El procesador de un móvil es mucho más que potencia: controla rendimiento, cámaras, conectividad, inteligencia artificial, autonomía y seguridad.
¿Qué ordenador necesitas para usar IA en local? Windows, macOS, Linux, ARM, x86 y GPU
Elegir un ordenador para IA local no va solo de TOPS. Depende del sistema operativo, la arquitectura, la GPU, la VRAM, la RAM, la refrigeración y el tipo de inteligencia artificial que quieras usar.