Ertas para Agencias de Automatización con IA

The Challenge

Las agencias de automatización con IA que construyen chatbots, agentes de voz y automatización de flujos de trabajo para clientes enfrentan un problema brutal de márgenes. Cada compromiso con un cliente significa otra clave de API de OpenAI o Anthropic, otra línea de gasto variable por token que escala con el uso, no con el valor entregado. Una agencia que gestiona entre 10 y 20 clientes o más en GPT-4 o Claude puede gastar fácilmente entre AU$3,000 y AU$5,000 al mes solo en costos de API, y esos costos son completamente impredecibles. Un pico de uso de un solo cliente puede eliminar el margen de toda una cuenta. Herramientas como Make.com, n8n, Voiceflow y Stammer.ai facilitan la configuración de flujos de trabajo con IA, pero todas canalizan la inferencia a través de las mismas API comerciales, dejando a las agencias sin control alguno sobre su mayor costo variable.

Más allá del costo, el problema de diferenciación es aún más existencial. Cuando todas las agencias revenden la misma API de GPT-4 o Claude detrás de una plantilla de prompt ligeramente diferente, no hay ventaja competitiva. Los clientes eventualmente se dan cuenta de que pueden eliminar al intermediario y llamar a la API directamente. Mientras tanto, los datos de los clientes (conversaciones con usuarios, contexto empresarial propietario, detalles operativos sensibles) fluyen a través de infraestructura de terceros con cada llamada a la API. Los clientes empresariales cada vez rechazan más esto, exigiendo saber dónde se procesan y almacenan sus datos. Las agencias que no pueden responder "tus datos nunca salen de nuestra infraestructura" están perdiendo contratos frente a competidores que sí pueden.

The Solution

Ertas convierte a la agencia de revendedora de API en proveedora de IA personalizada. En lugar de pagar una suscripción de API distinta por cliente, la agencia entrena en Ertas Studio un modelo para cada cliente con sus propios datos: tono de voz, catálogo de productos, respuestas a preguntas frecuentes y conversaciones anteriores. Studio ajusta modelos abiertos como Qwen, Llama, Gemma y Mistral con LoRA en las GPU en la nube de Ertas, desde un lienzo visual, así que nadie del equipo escribe scripts de entrenamiento ni alquila GPU. Se pueden entrenar varias ejecuciones en paralelo y compararlas antes de poner una en producción.

Cada modelo terminado se exporta desde Hub como GGUF para llama.cpp, Ollama o LM Studio, o como safetensors completos para vLLM y otros entornos de servidor. La agencia lo ejecuta en su propio servidor o se lo entrega a un cliente que lo quiera en sus instalaciones. A partir de ahí el modelo funciona sin depender de Ertas y sin factura por token: atender a un cliente cuesta el hardware y el alojamiento que la agencia ya tiene presupuestados, y las conversaciones que maneja el modelo se quedan en esa infraestructura. Los datos de entrenamiento se suben a Ertas para entrenar el modelo, así que conviene quitar los datos personales de los registros de conversación antes de subirlos.

Un modelo entrenado con las conversaciones reales de un cliente suele manejar su dominio mejor que un modelo general guiado por un prompt largo, y la agencia puede comprobarlo con sus propios ejemplos reservados antes de cambiar. Cuando la calidad tiene que mejorar, la agencia vuelve a entrenar en Studio, compara la nueva ejecución con la actual y sustituye el archivo exportado.

Key Features

Example Workflow

Una agencia de automatización con IA en Melbourne gestiona chatbots y agentes de voz para 15 clientes, pequeñas y medianas empresas de los sectores inmobiliario, dental y de oficios. Hoy toda la inferencia pasa por GPT-4 mediante integraciones con Make.com y Voiceflow, con un costo de AU$4,200 al mes en tarifas de API, de los cuales AU$1,800 corresponden a solo tres clientes con mucho volumen. La agencia empieza por el cliente que más gasta, una inmobiliaria cuyo chatbot atiende 12,000 conversaciones al mes sobre propiedades, reservas de visitas y preguntas de precalificación. El equipo exporta seis meses de registros de conversación (45,000 pares de mensajes), elimina nombres y teléfonos y sube el resultado a Ertas Studio en formato JSONL. En Data Craft corrigen las respuestas flojas y marcan los ejemplos que el cliente ha aprobado. Entrenan tres ejecuciones LoRA en paralelo sobre Qwen 2.5 3B, Qwen 2.5 7B y Llama 3.1 8B, y comparan cada una con un conjunto reservado de preguntas reales y con las respuestas que da la configuración actual de GPT-4. La ejecución más pequeña que alcanza el nivel de calidad del cliente se exporta desde Hub como GGUF y se sirve con Ollama en un Mac Mini en la oficina de la agencia. La agencia envía primero una parte del tráfico del cliente al nuevo modelo, revisa las respuestas y después traslada el resto. Cada cliente siguiente recibe su propio modelo de la misma manera, y el gasto en IA de la agencia pasa de una factura por token que crece con cada conversación a una suscripción de Ertas más un hardware que es suyo.