Los modelos de pesos abiertos más sólidos que caben en menos de 10 GB de VRAM con cuantización Q4_K_M estándar, para GPUs de portátil, tarjetas RTX 3060/4060 de 12 GB y cualquier despliegue donde la memoria sea la restricción limitante.
By HardwareUpdated 2026-04-305 picks
Introduction
Menos de 10 GB de VRAM es el punto óptimo práctico para despliegue en portátil, GPUs de consumo (RTX 3060 12 GB, RTX 4060 8 GB, portátiles gaming) y sistemas embebidos donde la memoria es la restricción limitante. La generación 2025-2026 de modelos pequeños se ha vuelto sustancialmente más capaz que sus predecesores: un modelo de 7-14B en 2026 puede manejar cargas de trabajo que requerían modelos de 30B+ un año antes, gracias a mejores datos de entrenamiento, arquitecturas más eficientes y técnicas mejoradas de cuantización.
Esta clasificación cubre modelos que caben en menos de 10 GB de VRAM con cuantización Q4_K_M estándar (aproximadamente lo mismo que 8 GB con Q3_K_M para quienes están aún más limitados). Ponderamos tres factores: capacidad a esa escala de parámetros, madurez del ecosistema para despliegue de consumo/portátil y licencia para uso comercial.
Calidad con menos de 10 GB de VRAM: Mejor de su clase
Phi-4 de Microsoft (14B denso) con Q4_K_M ocupa aproximadamente 8,5 GB, cabiendo cómodamente bajo el umbral de 10 GB y ofreciendo una capacidad excepcional por parámetro. Phi-4 fue diseñado específicamente para superar a su categoría de peso mediante una cuidadosa curación de datos sintéticos de entrenamiento, y compite con modelos de propósito general mucho más grandes en benchmarks de matemáticas, código y razonamiento. La licencia MIT lo convierte en la opción comercialmente desplegable más sólida en este nivel de VRAM.
Strengths
Licencia MIT: completamente permisiva para uso comercial
14B parámetros en ~8,5 GB con Q4_K_M, dejando margen para el contexto
Sólido razonamiento matemático y de código para su recuento de parámetros
Variantes Phi-4-mini (3.8B) y Phi-4-multimodal (5.6B) para restricciones más estrictas
Trade-offs
El uso intensivo de datos sintéticos de entrenamiento introduce artefactos en lenguaje informal
Por detrás de modelos más grandes en capacidad multilingüe amplia
Madurez del ecosistema a escala 8B: Mejor de su clase
Llama 3 8B con Q4_K_M ocupa aproximadamente 4,5 GB, dejando margen sustancial para el contexto y la caché KV incluso en tarjetas de 6-8 GB. El ecosistema maduro de fine-tunes comunitarios, guías de despliegue e integraciones lo convierten en la vía con menos fricción hacia un LLM local funcional con menos de 10 GB. Para la mayoría de despliegues en portátiles y GPUs de gama de entrada, Llama 3 8B es la elección caballo de batalla que maneja chat general, resumen y completado básico de código de forma fiable.
Strengths
4,5 GB con Q4_K_M deja margen en GPUs de 6-8 GB
Ecosistema masivo de fine-tunes comunitarios
Despliegue maduro en Ollama, llama.cpp y vLLM
Clasificador de seguridad Llama Guard 3 disponible como acompañante
Trade-offs
La Llama Community License impone topes de uso y requisitos de atribución
Por detrás de los modelos de clase 8B de la frontera de 2026 en capacidad
Calidad con menos de 4 GB de VRAM: Mejor de su clase
Las variantes de borde de Gemma 4 (e4b ~2,5 GB con Q4_K_M, e2b ~1,5 GB con Q4_K_M) son opciones excepcionales para VRAM pequeña. La nueva licencia Apache 2.0 combinada con el soporte multimodal nativo en ambas variantes las hace excepcionalmente capaces en esta categoría de tamaño. Para despliegues con menos de 4 GB de VRAM (donde Llama 3 8B y Phi-4 no caben), Gemma 4 e2b/e4b son las opciones más sólidas disponibles, especialmente cuando la entrada de imagen es un requisito.
Strengths
e2b con 1,5 GB cabe en gráficos integrados y GPUs de 4 GB+
Multimodalidad nativa: la única opción multimodal pequeña creíble
Licencia Apache 2.0 (nueva en Gemma 4)
Sólido soporte de despliegue MLX/llama.cpp
Trade-offs
Por debajo de la escala de 4 GB la capacidad es genuinamente limitada frente a modelos más grandes
e2b/e4b no pueden igualar a los modelos de 8B+ en tareas complejas
Las variantes más pequeñas de Qwen 3 (4B con ~2,5 GB, 8B con ~5 GB en Q4_K_M) cubren el nivel inferior a 10 GB con holgura. La licencia Apache 2.0 combinada con la amplia cobertura multilingüe en 119 idiomas hace de Qwen 3 la opción más sólida con poca VRAM para despliegues internacionales. El modo de pensamiento híbrido en variantes 4B+ añade capacidad de razonamiento que los modelos estándar de clase 4B no tienen. Para despliegues que sirven a usuarios no anglófonos en hardware de consumo, Qwen 3 es a menudo mejor elección que Llama 3 8B.
Strengths
Licencia Apache 2.0: totalmente comercial
Cobertura multilingüe en 119 idiomas a escalas pequeñas
Modo de pensamiento híbrido en variantes 4B+
Integración nativa de Qwen-Agent con soporte MCP y de herramientas
Trade-offs
Ecosistema MLX/comunitario más pequeño que el de Llama 3
La variante de 8B es ligeramente mayor que Llama 3 8B con cuantización equivalente
Falcon H1R-7B de TII con Q4_K_M ocupa aproximadamente 4,5 GB y ofrece un razonamiento matemático sobresaliente, con un 83,1 % en AIME 2025, competitivo con modelos de razonamiento de 5-7 veces su tamaño. La arquitectura híbrida Mamba+Transformer ofrece mejor eficiencia de contexto largo que las alternativas puramente transformer al mismo recuento de parámetros, soportando 256K de contexto en dispositivos de 16 GB+. Para despliegues con menos de 10 GB orientados específicamente a cargas de trabajo de matemáticas, ciencia o razonamiento, H1R es excepcionalmente capaz en su categoría de tamaño.
Strengths
Puntuación AIME 2025 de 83,1 %: excepcional para 7B parámetros
Ventana de contexto de 256K mediante arquitectura híbrida Mamba+Transformer
Sólida eficiencia de contexto largo a pequeña escala
Falcon LLM License (permisiva para uso comercial)
Trade-offs
La Falcon LLM License no es Apache 2.0 (revisar la idoneidad comercial)
Fortalezas concentradas en matemáticas/razonamiento más que en chat general
La arquitectura híbrida requiere versiones recientes de llama.cpp/vLLM
How We Chose
Evaluamos los modelos según la huella de memoria con Q4_K_M (la cuantización estándar para despliegue de consumo), la capacidad a ese nivel de cuantización (algunos modelos se degradan más que otros con Q4_K_M), la velocidad de inferencia en GPUs de clase portátil y la licencia para despliegue comercial. Ponderamos deliberadamente los patrones de despliegue real de consumo (Ollama, llama.cpp, LM Studio) por encima de las puntuaciones teóricas de benchmarks: un modelo que puntúa bien en investigación pero no es soportado por las principales herramientas de consumo no es útil en esta categoría.
Bottom Line
Para la mayoría de despliegues con menos de 10 GB, Phi-4 es la opción comercial más sólida: licencia MIT, capacidad excepcional por parámetro y razonamiento de clase 14B en 8,5 GB. Llama 3 8B es la opción caballo de batalla cuando la madurez del ecosistema importa más que la capacidad máxima. Gemma 4 e2b/e4b son las opciones adecuadas para despliegues con menos de 4 GB o cuando se requiere entrada multimodal. Qwen 3 4B/8B son los especialistas multilingües. Falcon H1R-7B es excepcionalmente capaz para cargas de trabajo de matemáticas/razonamiento a escala 7B. Cualquiera que sea el modelo que elijas, hacer fine-tuning en Ertas Studio con QLoRA cabe cómodamente en el mismo hardware que la inferencia, lo que hace que la mejora continua del modelo sea accesible sin requerir infraestructura de servidor.