Ertas para Equipos de Producto SaaS

The Challenge

Los equipos de producto SaaS están bajo una presión enorme para integrar IA en sus aplicaciones: los inversionistas lo esperan, los clientes lo demandan y los competidores lo están lanzando. Pero la realidad de construir con modelos base genéricos es frustrante. La ingeniería de prompts te lleva al 80% del camino, y luego pasas meses persiguiendo el último 20% con prompts de sistema cada vez más frágiles, ejemplos de few-shot y pipelines de recuperación que aún alucinan con la terminología específica de tu dominio.

La carga operativa se acumula rápidamente. Los límites de tasa de API reducen tu rendimiento durante horas pico, el precio por token hace que la economía unitaria sea impredecible, y cada ciclo de deprecación de proveedores de modelos amenaza con romper funciones en producción. Los gerentes de producto no pueden planificar alrededor de una dependencia que no controlan, y los equipos de ingeniería desperdician sprint tras sprint adaptándose a cambios upstream en lugar de construir valor diferenciado de producto.

The Solution

Ertas permite que los equipos de ingeniería de producto se hagan cargo de los modelos detrás de sus funciones de IA. En Ertas Studio, los ingenieros de ML y los desarrolladores de backend ajustan modelos abiertos compactos, desde menos de 1B hasta 8B parámetros, con datos propios del producto: tickets de soporte, contenido generado por usuarios, taxonomías del dominio y bases de conocimiento internas. Puedes subir un dataset JSONL, importarlo desde Hugging Face o crearlo en Data Craft, donde los expertos de producto y del dominio revisan y aprueban los ejemplos. El entrenamiento se ejecuta en las GPU en la nube de Ertas desde un canvas visual, y se pueden lanzar varias ejecuciones en paralelo para comparar modelos base y configuraciones. El resultado es un modelo que ya habla el idioma de tu producto, sin necesidad de tres párrafos de prompt de sistema para acercarse a él.

El modelo entrenado es tuyo. Descárgalo desde Hub como safetensors completos para vLLM u otro runtime de servidor, o en formato GGUF para llama.cpp y Ollama, y ejecútalo como un servicio más en tu propia infraestructura, con los health checks, el autoescalado y los dashboards que tu equipo ya utiliza. Como el modelo está en tus manos, una deprecación del proveedor ya no puede romper la función, el rendimiento depende de tu propia capacidad y los costes de uso son más previsibles que con precios por token. Los equipos que prefieran que Ertas lo opere pueden preguntar por el endpoint de modelo adaptativo: una API para una tarea, en la que un modelo personalizado, entrenado con tus propias solicitudes y los comentarios de tu equipo, asume una parte creciente de las solicitudes a medida que supera tus evaluaciones, mientras los casos difíciles siguen en el modelo de frontera que ya usas.

Key Features

Example Workflow

Una empresa SaaS B2B que desarrolla software de gestión de proyectos quiere una función de IA que clasifique automáticamente las tareas entrantes por equipo, prioridad y área del proyecto. El equipo de producto exporta 200.000 tareas ya clasificadas, elimina del texto libre los nombres de clientes y los datos personales, y les da formato de conjunto de entrenamiento JSONL, reservando unos miles de tareas como conjunto de prueba. En Ertas Studio, un ingeniero de ML configura ejecuciones de fine-tuning con LoRA sobre Qwen 2.5 3B y Mistral 7B y entrena ambas en paralelo. Después descarga cada modelo y lo evalúa con las tareas reservadas, junto al enfoque basado en prompts y API con el que el equipo hizo el prototipo. El modelo con mejores resultados se exporta como safetensors y se despliega en vLLM detrás del API gateway de la aplicación, donde el equipo de SRE vigila su latencia y su tasa de errores igual que la de cualquier otro servicio. El equipo lanza la función en la siguiente versión y vuelve a entrenar cada trimestre a medida que aparecen nuevos equipos y áreas de proyecto.