Ertas para Fine-Tuning de Agentes de Voz

Ajusta el backbone LLM de los agentes de voz para lograr interacciones habladas más rápidas y precisas, con comprensión específica del dominio y patrones conversacionales consistentes.

The Challenge

Los agentes de voz (sistemas de IA que manejan llamadas telefónicas, pedidos de autoservicio, programación de citas y conversaciones de servicio al cliente) están reemplazando rápidamente los sistemas IVR tradicionales. El modelo de lenguaje es el cerebro de cada agente de voz, responsable de comprender la intención del llamante, generar respuestas naturales, tomar decisiones sobre enrutamiento de llamadas y mantener conversaciones coherentes de múltiples turnos. Sin embargo, la mayoría de los constructores de agentes de voz dependen de modelos de lenguaje genéricos que no comprenden el dominio, vocabulario o patrones conversacionales específicos del negocio que sirven.

Las consecuencias de usar un modelo genérico en un agente de voz son inmediatamente evidentes para los llamantes. El agente malinterpreta términos específicos de la industria, hace preguntas redundantes porque no puede inferir contexto, genera respuestas demasiado largas para el ritmo natural del habla, y no sigue los scripts de llamada y procedimientos de escalación específicos que el negocio requiere. La latencia es otro factor crítico: las conversaciones de voz requieren tiempos de respuesta de menos de un segundo, y enviar solicitudes a modelos grandes en la nube introduce retrasos perceptibles que hacen que la conversación se sienta antinatural. Estos problemas aumentan la frustración del llamante e impulsan tasas de abandono que socavan el caso de negocio para la IA de voz.

The Solution

Ertas permite a quienes construyen agentes de voz ajustar modelos de lenguaje pequeños y rápidos con datos conversacionales de su dominio. En Ertas Studio, los equipos entrenan con transcripciones anonimizadas de llamadas exitosas, guiones aprobados y flujos de conversación que reflejan los patrones que esperan quienes llaman, y pueden escribir o corregir intercambios de ejemplo en Data Craft, el constructor guiado de datasets de Studio. El modelo ajustado aprende la terminología del negocio, sigue sus procedimientos de atención de llamadas y da respuestas breves y naturales que funcionan al decirse en voz alta.

Hub exporta el modelo en GGUF o en safetensors completos, así que puede ejecutarse en tus propias GPU, cerca de tu infraestructura de telefonía. Un modelo pequeño que corre en local se ahorra el viaje de ida y vuelta por la red hasta un gran modelo en la nube, lo que ayuda a mantener turnos de palabra naturales, y su costo de cómputo por conversación suele ser menor que el de las llamadas de API a un gran modelo alojado. Servido con Ollama, llama.cpp o vLLM, el modelo se convierte en el modelo de lenguaje detrás de plataformas de voz como Retell, Vapi o Bland, o de una integración de telefonía a medida. Las grabaciones y transcripciones de llamadas están sujetas a normas de consentimiento y privacidad, así que anonimiza las transcripciones antes de subirlas para entrenar; una vez que el modelo corre en tus propios servidores, el contenido de las llamadas en vivo se queda contigo.

Key Features

Studio

Fine-Tuning Conversacional

Entrena modelos con transcripciones de llamadas, guiones aprobados y flujos de conversación de varios turnos usando Studio. Adapta las respuestas para decirse en voz alta entrenando con réplicas breves y turnos de palabra naturales.

Studio

Modelos Compactos Optimizados para Voz

Empieza con modelos abiertos pequeños del catálogo de Studio, como LFM2.5 1.2B, Qwen 2.5 3B, Llama 3.2 3B o Gemma 3 4B, que funcionan rápido en hardware modesto. Un modelo ajustado más pequeño mantiene los tiempos de respuesta lo bastante cortos para una conversación en vivo.

Hub

Inferencia Autoalojada de Baja Latencia

Exporta el modelo entrenado desde Hub en GGUF para llama.cpp u Ollama, o en safetensors para vLLM, y ejecútalo en tus propias GPU o servidores de borde. Tú escalas el despliegue según tu volumen de llamadas simultáneas, sin depender de Ertas para funcionar.

Hub

Los Datos de Llamadas se Quedan Contigo

Las transcripciones de llamadas en vivo que procesa el modelo autoalojado se quedan en tu infraestructura. Los datos de entrenamiento se suben a las GPU en la nube de Ertas, así que elimina de las transcripciones los datos de pago, la información de salud y los identificadores de quien llama antes de subirlas. Las obligaciones de consentimiento de grabación, PCI DSS y privacidad sanitaria siguen siendo trabajo tuyo.

Example Workflow

Una empresa de gestión de clínicas dentales construye agentes de voz que gestionan la agenda de citas de 500 consultorios. Reúne 100,000 transcripciones de llamadas de agendamiento exitosas, que cubren tipos de cita, preguntas de verificación de seguros, negociación de horarios y cancelaciones, elimina los nombres e identificadores de pacientes y las sube a Ertas Studio. En Studio, ajusta Qwen 2.5 7B al dominio de agendamiento dental para que entienda la terminología odontológica (profilaxis, mantenimiento periodontal, preparación de coronas), los nombres de los planes de seguro y la lógica de agenda de cada tipo de procedimiento, y en paralelo entrena un Llama 3.2 3B más pequeño para comparar velocidad y calidad. Prueba ambos con un conjunto reservado de llamadas reales y comprueba si cada modelo agenda el tipo de cita correcto y mantiene respuestas lo bastante cortas para decirse en voz alta. El modelo elegido se exporta desde Hub y se sirve con vLLM en servidores GPU de su centro de datos, detrás de su plataforma de voz. El equipo mide la latencia de respuesta, la tasa de llamadas completadas de principio a fin y la duración de las llamadas frente al modelo genérico que usaba antes, y deriva al personal las llamadas que el modelo maneja mal mientras reúne ejemplos para el siguiente entrenamiento.