Saltar al contenido
    Ertas
    Back to blog

    Aprendizaje continuo para agentes de IA

    Aprendizaje continuo para agentes de IA en la capa del modelo: el tráfico del agente entrena cada versión nueva, que pasa tus evaluaciones antes de publicarse.

    A pale astronomical impression in graphite and copper, with a soft amber penumbra on warm paper.Two fine engraved orbital fields crossing in deep space, with cool cyan light and a warm distant seam.

    El aprendizaje continuo (continual learning) para agentes de IA significa que un agente mejora a partir de su propio trabajo después de salir a producción. Harrison Chase, de LangChain, lo divide en tres capas: el modelo, el harness que lo rodea y el contexto que recibe. Este artículo trata la capa del modelo, donde el propio tráfico del agente entrena la siguiente versión del modelo, y esa versión solo se publica cuando alcanza el listón en tus evaluaciones.

    Casi todo lo escrito sobre aprendizaje continuo para agentes trata la memoria, los prompts y el código del harness, que son las capas más rápidas de cambiar. La capa del modelo fija lo que cuesta una tarea repetida y la fiabilidad con la que el agente la hace, así que es la capa de este artículo: qué significa el aprendizaje continuo para los LLM, cuándo entrenar el modelo, cómo funciona la compuerta de publicación y en qué se diferencia de un fine-tuning puntual.

    ¿Qué es el aprendizaje continuo para agentes de IA?

    El aprendizaje continuo para agentes de IA es la práctica de convertir el comportamiento de un agente en producción en cambios que mejoran sus ejecuciones futuras. En "Continual learning for AI agents" (5 de abril de 2026), Harrison Chase, de LangChain, sostiene que este aprendizaje puede darse en tres capas, y que la mayoría de las discusiones saltan directamente a los pesos del modelo.

    Las tres capas, con lo que cambia en cada una:

    CapaQué cambiaEjemplo
    ModeloLos pesos del modeloFine-tuning supervisado o aprendizaje por refuerzo sobre trazas
    HarnessCódigo del agente, herramientas e instrucciones integradasUn agente de código que propone cambios al harness desde registros
    ContextoMemoria, skills e instrucciones por usuarioUn agente que actualiza su propio archivo de memoria

    Los cambios en el harness y el contexto son rápidos de hacer y fáciles de revertir, así que la mayoría de los equipos empieza por ahí. La guía para desarrolladores sobre aprendizaje continuo de Arize (revisada por última vez el 16 de agosto de 2026) observa lo mismo: los bucles de producción suelen mejorar el sistema que rodea al modelo antes de actualizar el propio modelo. Un cambio de pesos es el más profundo de los tres, y por eso necesita una compuerta de evaluación antes de llegar a los usuarios.

    ¿Qué significa el aprendizaje continuo para los LLM?

    En la investigación en aprendizaje automático, el aprendizaje continuo consiste en entrenar un modelo sobre una secuencia de tareas o datos mientras conserva lo que aprendió antes. La parte difícil tiene nombre, el olvido catastrófico: entrenar con datos nuevos degrada lo que el modelo ya sabía hacer. Michael McCloskey y Neal J. Cohen lo describieron en 1989, y sigue siendo un problema central del campo.

    El sleep framework de Google Research (27 de octubre de 2026) parte de ese problema. Describe los LLM desplegados como en gran medida estáticos, con una fecha de corte de conocimiento fija, y propone una fase de "sueño" fuera de línea en la que el modelo consolida en sus pesos lo que ha visto. El artículo de a16z "Why We Need Continual Learning" (22 de abril de 2026) sitúa los enfoques en un espectro: la recuperación con pesos congelados en un extremo, los módulos acoplables en el medio y las actualizaciones de pesos en el otro extremo, que describe como el enfoque más profundo y el más difícil de llevar a producción.

    El significado de la investigación y el de producción se encuentran en la capa del modelo. Un equipo que reentrena el modelo de su agente con el tráfico del agente está haciendo aprendizaje continuo en el sentido de la investigación, y hereda su problema. Nuestro artículo sobre el olvido catastrófico en el fine-tuning de LLM repasa las mitigaciones.

    ¿Cuándo conviene entrenar el modelo y cuándo el harness o el contexto?

    Entrena el modelo cuando el agente repite la misma tarea a gran volumen, las mismas instrucciones viajan en cada prompt o las entradas se han alejado de aquello con lo que se entrenó el modelo. Los cambios en el harness y el contexto ajustan lo que se le dice al modelo. Una actualización de pesos cambia lo que el modelo puede hacer con lo que se le dice.

    Las instrucciones repetidas cuestan tokens en cada llamada a la API. Un agente que envía el mismo protocolo, los mismos ejemplos y el mismo contexto en cada petición los paga cada vez. Un especialista entrenado en la tarea los lleva dentro del modelo, así que necesita menos tokens por tarea, y suele costar menos por token que el modelo frontera al que sustituye. El tamaño del segundo ahorro depende de cuánto de cada prompt es texto repetido y de si pagas tokens de razonamiento. La calculadora de coste por tarea recorre las dos dimensiones, y nuestra nota sobre los márgenes brutos de las startups de IA las muestra con tamaños de prompt reales.

    Las entradas cambian, y un modelo entrenado con la forma antigua pierde calidad con la nueva. En nuestro estudio QMSum (arXiv 2609.25028), un especialista publicado en resumen de reuniones, al pasar de entradas de transcripción largas a fragmentos de transcripción recuperados, perdió 6,30 puntos de ROUGE-1. Entrenarlo con la nueva forma de entrada recuperó la pérdida. Un agente cuyas herramientas, usuarios o datos de origen cambian con los meses se encuentra con el mismo efecto, y reentrenar con el tráfico reciente es la forma de que el modelo se ponga al día.

    Entrenar en la tarea fue lo que más movió la calidad. En el mismo estudio, dentro de un mismo modelo base, entrenar con las entradas de fragmentos sumó 5,29 puntos de ROUGE-1, frente a 1,55 por mejorar solo las entradas. Es una única ronda de entrenamiento en un benchmark público. Muestra dónde está la palanca, y todavía no dice nada sobre las mejoras entre rondas con tráfico real.

    ¿Cómo funciona el aprendizaje continuo en la capa del modelo?

    En la capa del modelo, el aprendizaje continuo es un bucle de cinco pasos que se ejecuta en segundo plano mientras el modelo actual sigue sirviendo:

    1. Capturar. Las peticiones y respuestas del agente se registran con sus resultados: correcciones de usuarios, llamadas a herramientas fallidas, comprobaciones posteriores.
    2. Seleccionar. Se extraen ejemplos candidatos de ese tráfico, y tu equipo aprueba con cuáles aprende el modelo.
    3. Entrenar. Una versión nueva se entrena con los ejemplos aprobados, mezclados con ejemplos de rondas anteriores para que conserve lo que esas rondas le enseñaron.
    4. Evaluar. La versión nueva se puntúa con tus evaluaciones: el conjunto de la tarea que define el listón de calidad y un conjunto de regresión con casos que el modelo actual ya resuelve bien.
    5. Publicar o retener. Solo se publica con tu aprobación. Si se queda corta, el modelo actual sigue en servicio.

    La compuerta de los pasos 4 y 5 carga con la mayor parte del peso, y le aplican dos hábitos de nuestra investigación. El estudio QMSum siguió un protocolo congelado: un único evaluador, la partición de prueba oficial completa y como máximo una ejecución sobre el conjunto de prueba por sistema. También midió cuánto se mueve una puntuación por azar: cambiar solo la semilla de entrenamiento movió el ROUGE-1 de validación en 1,59 puntos entre dos ejecuciones, suficiente para borrar una mejora de configuración de 1,5 puntos. Una compuerta de publicación necesita ambos hábitos, con sus reglas fijadas antes de puntuar la versión nueva y un margen mayor que el ruido entre ejecuciones.

    Lo que compara la compuerta importa tanto como el umbral. Una puntuación sobre los casos que motivaron el reentrenamiento muestra el arreglo. Un conjunto de regresión con casos que el modelo actual acierta, más algunos casos no relacionados como recomienda la guía de Arize, muestra además lo que el arreglo haya roto. Nuestra guía para crear un conjunto de evaluación a partir de conversaciones reales explica cómo reunir ambos.

    ¿Qué diferencia hay entre el aprendizaje continuo y el fine-tuning?

    El fine-tuning es una sola ejecución de entrenamiento sobre un conjunto de datos fijo; el aprendizaje continuo repite el fine-tuning a lo largo del tiempo con datos nuevos y tiene que conservar lo que aprendieron las rondas anteriores. Los dos usan los mismos métodos de entrenamiento y se diferencian en lo que los rodea.

    Fine-tuningAprendizaje continuo
    DatosUn conjunto de entrenamiento fijoUn flujo de tráfico de producción
    ResultadoUn modelo entrenadoUna secuencia de versiones del modelo
    Riesgo principalSobreajustar el conjunto de entrenamientoPerder lo aprendido en rondas anteriores
    ControlUna evaluación antes del lanzamientoUna evaluación de regresión antes de cada versión

    Cada ronda de aprendizaje continuo es una ejecución de fine-tuning. El trabajo extra es la contabilidad que la rodea: qué datos ve cada ronda, con qué se compara cada versión y quién da la aprobación. Para saber cuándo un único fine-tuning es la herramienta adecuada, consulta ¿ha muerto el fine-tuning?.

    ¿Cuándo debe quedarse como está el modelo de un agente?

    Mantén el modelo actual cuando la tarea aún se está definiendo, el volumen es bajo o lo que cambia son datos factuales. Una tarea que cambia cada semana sale más barata de dirigir con prompts y con el harness hasta que se estabilice. Con unos pocos miles de tareas al mes, una ronda de entrenamiento cuesta más de lo que ahorra. Los datos que cambian a menudo, como precios, políticas e inventario, van en la recuperación, donde una actualización surte efecto en la siguiente petición.

    Una división útil: el comportamiento, el formato y la habilidad en la tarea van al modelo, y los datos que cambian van a la recuperación o al contexto. El aprendizaje continuo en la capa del modelo mantiene al día la primera parte a medida que cambia el trabajo del agente.

    ¿Dónde encaja el endpoint de Ertas?

    El endpoint de modelo adaptativo de Ertas aplica aprendizaje continuo en la capa del modelo. Sirve, a través de una sola API, un modelo especialista entrenado con el trabajo de tus agentes. Una vez en marcha, el especialista aprende de forma continua del tráfico de tus agentes: cada versión nueva se entrena en segundo plano y se puntúa con tus evaluaciones. Tú apruebas los ejemplos de entrenamiento y cada versión, y si una versión nueva se queda corta, el modelo actual sigue en servicio.

    Las capas del harness y del contexto siguen en tus herramientas de agentes, y el endpoint queda por debajo como el modelo. Funciona gestionado por Ertas, en tu nube o en tus instalaciones. Por ahora el endpoint solo está disponible por invitación, y estamos desarrollando una versión más ágil para un acceso más amplio.

    Preguntas Frecuentes

    ¿Pueden los agentes de IA aprender de forma continua?

    Sí, en tres capas. Un agente puede actualizar su memoria y su contexto mientras trabaja, su harness puede mejorarse entre versiones a partir de trazas registradas y su modelo puede reentrenarse con su tráfico. Las actualizaciones del modelo se ejecutan en segundo plano, y cada versión nueva se comprueba con evaluaciones antes de sustituir a la actual.

    ¿Es lo mismo continual learning que continuous learning?

    En los textos de producto los dos términos se usan como sinónimos, como señala la guía de Arize. La investigación usa "continual learning" para el entrenamiento de un modelo a lo largo de una secuencia de tareas o datos conservando lo que ya sabe.

    ¿El aprendizaje continuo provoca olvido catastrófico?

    Puede provocarlo, porque cada ronda de entrenamiento actualiza pesos de los que dependen capacidades anteriores. Repetir ejemplos de rondas anteriores, usar ajustes de entrenamiento conservadores y aplicar métodos de subespacios ortogonales reducen el riesgo, y una evaluación de regresión antes de cada versión detecta lo que se cuele.

    ¿Con qué frecuencia hay que reentrenar el modelo de un agente?

    Reentrena cuando se hayan acumulado suficientes ejemplos aprobados para mover la evaluación, o cuando la monitorización muestre que las entradas se desvían. La cadencia importa menos que la compuerta: una versión nueva solo se publica cuando alcanza el listón frente a la actual.

    ¿Qué datos necesita el aprendizaje continuo en la capa del modelo?

    Las trazas del agente: peticiones, respuestas, llamadas a herramientas y sus resultados, más un conjunto de evaluación que defina qué es una buena salida para la tarea. Las correcciones de usuarios y revisores son los ejemplos más valiosos, porque marcan exactamente dónde se queda corto el modelo actual.

    La Versión Corta

    El aprendizaje continuo para agentes de IA ocurre en tres capas, y la del modelo es la más profunda. Entrenar la siguiente versión del modelo con el propio tráfico del agente reduce los tokens que necesita cada tarea y mantiene el modelo al día cuando sus entradas cambian. También trae de vuelta el problema más antiguo del campo, el olvido, así que cada versión pasa una compuerta de regresión antes de recibir tráfico, y el modelo actual sigue sirviendo hasta que una la supera.


    Fuentes, consultadas el 29 de octubre de 2026: LangChain, "Continual learning for AI agents" (Harrison Chase, 5 de abril de 2026); Arize, "Continual learning for AI agents and LLM systems" (revisada por última vez el 16 de agosto de 2026); Google Research, "The sleep framework" (27 de octubre de 2026); a16z, "Why We Need Continual Learning" (22 de abril de 2026). Nuestra investigación: el estudio QMSum (arXiv 2609.25028).