Unsloth + Ertas

Overview

Unsloth es una librería de fine-tuning open source rápida, que consigue mejoras grandes de velocidad de entrenamiento mediante kernels CUDA propios e implementaciones eficientes en memoria. Los ingenieros de ML recurren a ella por su rendimiento bruto y su abstracción mínima: escribes Python en un notebook o un script, llamas a su cargador de modelos parcheado y obtienes entrenamiento LoRA y QLoRA más rápido con menos VRAM. Para quien vive en notebooks y quiere control de bajo nivel, es un buen trato.

Está deliberadamente acotada al paso de entrenamiento. La preparación de datos, el historial de ejecuciones, la cuantización y exportación, y llevar el modelo terminado a una máquina quedan de tu lado. Los equipos que la usan ensamblan esas etapas con herramientas separadas: un servicio de tracking, scripts de datos propios, llama.cpp para cuantizar y pasos manuales para desplegar. Ese ensamblaje funciona para un ingeniero haciendo experimentos y se convierte en el cuello de botella en cuanto un equipo necesita reproducibilidad o un camino repetible de los datos a un modelo entregado.

How Ertas Integrates

Ertas toma el enfoque contrario: es un pipeline gestionado donde todo el trabajo vive en un solo sitio y no hace falta Python. Preparas los datos en Data Craft, colocas un Action Module en el canvas de Model Studio, conectas modelo base, dataset y configuración de entrenamiento, y le das a play. El entrenamiento corre en GPUs gestionadas en la nube, así que no hay entorno que montar ni presupuesto de VRAM al que ajustarse.

Las diferencias prácticas aparecen a ambos lados del entrenamiento. Data Craft guarda tus datasets y Prompt Studio te ayuda a redactar un prompt de generación cuando te faltan ejemplos reales. Cada ejecución conserva su snapshot de configuración y sus métricas, así que puedes abrir un modelo meses después y ver exactamente qué lo produjo. Las ejecuciones terminadas exportan un adaptador LoRA y un paquete GGUF que incluye un Modelfile de Ollama ya construido con la plantilla de chat y los tokens de parada correctos, más scripts de instalación, que es el paso que suele costar una tarde cuando montas la pila por tu cuenta.

Donde Unsloth sigue por delante es en control. Bucles de entrenamiento personalizados, arquitecturas poco comunes y trabajo afinado a nivel de kernel son lo que da una librería y no un pipeline gestionado. Si ese es el trabajo, un notebook es la herramienta correcta.

Getting Started

1. 1

   Prepara tu dataset en Data Craft

   Sube JSONL, CSV, parquet o texto, o refleja un dataset desde Hugging Face. Cuando te faltan ejemplos reales, Prompt Studio construye un prompt de generación a partir de tu propio contexto que ejecutas en la herramienta de IA que ya pagas y reimportas como JSONL.

2. 2

   Monta la ejecución en el canvas

   Coloca un Action Module en un proyecto de Model Studio y conecta sus cuatro patas: modelo base, dataset, configuración de entrenamiento y configuración LoRA. El canvas señala qué patas faltan, así que no puedes enviar una ejecución incompleta por accidente.

3. 3

   Entrena en GPUs gestionadas, en paralelo

   Dale a play. El entrenamiento corre en GPUs en la nube sin configurar ningún entorno. Cada Action Module es un trabajo independiente y nada limita cuántos corren a la vez, así que puedes barrer hiperparámetros en varios módulos simultáneamente. Tu saldo de créditos es el límite práctico.

4. 4

   Revisa la ejecución y compárala con las anteriores

   Una ejecución terminada muestra tres muestras de inferencia a partir de un conjunto fijo de prompts como primera comprobación de coherencia, junto con su snapshot de configuración completo y sus métricas. Las ejecuciones anteriores del proyecto siguen disponibles para comparar, así que puedes ver qué cambió entre intentos.

5. 5

   Exporta e instala

   Descarga el adaptador LoRA como safetensors, o el paquete GGUF: un archivo de modelo cuantizado en Q4_K_M, un Modelfile ya construido con la plantilla de chat, los tokens de parada y los valores de muestreo que configuraste, y scripts de instalación para macOS, Linux y Windows. Ejecuta el instalador y Ollama sirve el modelo.

Benefits

• Sin Python, sin notebook y sin entorno CUDA que montar antes de la primera ejecución
• GPUs gestionadas en la nube, así que el tamaño del modelo no lo limita la VRAM de tu máquina
• Data Craft y Prompt Studio cubren la preparación de datasets en el mismo sitio donde entrenas
• Entrenamiento en paralelo entre Action Modules sin límite estricto de concurrencia en ningún plan
• Cada ejecución conserva su snapshot de configuración y sus métricas, así que un modelo se remonta a lo que lo produjo
• La exportación GGUF llega como un paquete instalable con Modelfile de Ollama y scripts de instalación
• Lo pueden usar compañeros que de otro modo no escribirían un script de entrenamiento