Ciclos de Aprendizaje Activo: Etiquetado Asistido por Modelo Sin Egreso de Datos

El etiquetado de datos es la etapa mas costosa de cualquier pipeline de AI empresarial. Requiere expertos del dominio — personas que cuestan $80-200 por hora — para asignar manualmente etiquetas a cientos o miles de ejemplos. Un proyecto de clasificacion con 10,000 documentos y 15 categorias puede consumir mas de 400 horas de tiempo de experto. A $120/hora, eso son $48,000 solo en costos laborales.

El aprendizaje activo reduce ese numero en un 75%. En lugar de etiquetar cada ejemplo desde cero, el modelo sugiere etiquetas y el experto confirma o corrige. El experto revisa 10,000 elementos en lugar de etiquetar 10,000 elementos — una tarea fundamentalmente diferente que toma una fraccion del tiempo.

La trampa es que los pipelines tradicionales de aprendizaje activo envian datos a modelos alojados en la nube para el paso de sugerencia. Para empresas que manejan documentos sensibles — contratos legales, registros de pacientes, informes financieros, materiales clasificados — esto crea un problema de egreso de datos. Los documentos salen de la infraestructura de la organizacion, aunque solo sea para obtener una sugerencia de etiqueta.

La solucion: ejecutar el modelo de sugerencia localmente. Ollama, vLLM o cualquier servidor de inferencia local aloja el modelo on-premise. El ciclo de aprendizaje activo se ejecuta completamente dentro de la red de la organizacion. Cero egreso de datos. Ganancias de eficiencia completas.

Como Funciona el Aprendizaje Activo

El concepto es simple. El aprendizaje activo es un ciclo de retroalimentacion entre un modelo y un anotador humano, disenado para maximizar la informacion obtenida de cada decision humana.

Paso 1: Comienza con un pequeno dataset etiquetado. 50-200 ejemplos, etiquetados manualmente por expertos del dominio. Este es el conjunto semilla.

Paso 2: Entrena un modelo inicial con el conjunto semilla. No sera preciso — 50-65% es tipico con tan pocos datos. Eso esta bien. La precision no es el objetivo todavia. La calibracion de confianza si lo es.

Paso 3: El modelo predice etiquetas para todos los datos sin etiquetar. Para cada prediccion, tambien genera un puntaje de confianza — que tan seguro esta sobre la etiqueta.

Paso 4: Presenta las predicciones a los expertos del dominio, ordenadas por incertidumbre (la confianza mas baja primero). El experto ve el documento, la etiqueta sugerida y el puntaje de confianza. Aprueba la sugerencia o la corrige.

Paso 5: Agrega los ejemplos recien etiquetados (tanto aprobados como corregidos) al conjunto de entrenamiento.

Paso 6: Reentrena el modelo con el conjunto de entrenamiento ampliado.

Paso 7: Repite desde el Paso 3.

Cada ciclo, el modelo mejora. Despues de 3-4 ciclos, tipicamente alcanza 85-92% de precision en las sugerencias, lo que significa que el experto aprueba 85-92% de las etiquetas con un solo clic y solo necesita pensar cuidadosamente sobre el 8-15% restante.

Por Que Importa el Muestreo por Incertidumbre

La idea clave del aprendizaje activo es que no todos los ejemplos son igualmente informativos. El modelo aprende mas de los ejemplos sobre los que esta menos seguro — los que estan cerca de las fronteras de decision, los casos limite, los documentos ambiguos.

Considera una tarea de clasificacion de documentos con categorias como "Contrato", "Factura", "Opinion Legal" y "Correspondencia". Despues del primer ciclo de entrenamiento, el modelo podria tener 95% de confianza de que una factura es una factura. Etiquetar esa factura no le ensena casi nada al modelo — ya lo sabia.

Pero un documento que el modelo puntua como 52% "Opinion Legal" y 48% "Correspondencia" es genuinamente ambiguo. Cuando el experto lo etiqueta, el modelo aprende exactamente donde esta el limite entre esas categorias.

El muestreo por incertidumbre explota esto presentando siempre los ejemplos mas inciertos primero. El tiempo del experto se gasta en los casos mas dificiles — los que mas importan para la mejora del modelo — en lugar de en casos faciles que el modelo ya ha descifrado.

La ganancia de eficiencia es dramatica. El muestreo aleatorio (etiquetar ejemplos en orden arbitrario) requiere aproximadamente 4x mas ejemplos etiquetados para alcanzar la misma precision del modelo que el muestreo por incertidumbre. Dicho de otra manera, el muestreo por incertidumbre alcanza la misma precision con un 75% menos de tiempo de experto.

El Ciclo de Aprendizaje Activo On-Premise

Aqui esta la configuracion tecnica completa para ejecutar aprendizaje activo sin egreso de datos.

Infraestructura

• Servidor de inferencia: Ollama ejecutando un modelo de clasificacion capaz. Para tareas de clasificacion de texto, Llama 3.3 8B o Qwen 2.5 7B funciona bien. Estos modelos se ejecutan en una sola GPU con 16GB o mas de VRAM.
• Servidor de entrenamiento: Una maquina con GPU para fine-tuning. La misma maquina puede cumplir doble funcion si programas inferencia y entrenamiento en diferentes momentos.
• Interfaz de anotacion: Una aplicacion web donde los expertos del dominio revisan sugerencias. Puede ser tan simple como una hoja de calculo con botones de aprobar/corregir, o una herramienta dedicada como Label Studio ejecutandose on-premise.
• Orquestacion: Un script que coordina el ciclo — ejecuta inferencia, ordena por incertidumbre, presenta a los anotadores, recopila decisiones, dispara el reentrenamiento.

Ciclo 1: El Conjunto Semilla

Los expertos del dominio etiquetan manualmente 100-200 ejemplos. Selecciona estos ejemplos para cubrir el rango completo de categorias — al menos 10 ejemplos por categoria, mas para categorias ambiguas. Invierte tiempo en calidad aqui. Estas etiquetas se propagan a traves de cada ciclo posterior.

Estimacion de tiempo: 4-8 horas de tiempo de experto para 200 ejemplos.

Ciclo 2: Primer Pase de Aprendizaje Activo

Ajusta el modelo local con los 200 ejemplos semilla. Esto toma 15-30 minutos para un modelo de 7B parametros en una sola A100.

Ejecuta inferencia sobre todos los datos sin etiquetar. Para 10,000 documentos, la inferencia toma 2-4 horas en una sola GPU.

Ordena las predicciones por confianza. Presenta las 200 mas bajas (menor confianza) al experto. El experto revisa cada una: aprueba la etiqueta sugerida o la corrige. En esta etapa, espera que 50-65% de las sugerencias sean correctas — el experto esta haciendo trabajo real.

Estimacion de tiempo: 3-5 horas para 200 revisiones (mas rapido que el etiquetado en bruto porque el experto evalua en lugar de decidir desde cero).

Ciclo 3: Segundo Pase

Reentrena con el dataset expandido (ahora 400 ejemplos etiquetados). Ejecuta inferencia sobre los datos sin etiquetar restantes. Presenta los 300 ejemplos mas inciertos.

En esta etapa, la precision salta. El modelo ha visto las correcciones del experto del Ciclo 2 y ha aprendido de ellas. Espera que 70-80% de las sugerencias sean correctas. El experto se mueve mas rapido — la mayoria de las revisiones son un rapido "aprobar."

Estimacion de tiempo: 3-4 horas para 300 revisiones.

Ciclo 4: Tercer Pase

Reentrena con 700 ejemplos etiquetados. Presenta 500 ejemplos inciertos. Precision: 80-88%. Tiempo de experto: 3-4 horas para 500 revisiones (porque la mayoria son aprobaciones).

Ciclo 5: Pase Final

Reentrena con 1,200 ejemplos. Presenta los ejemplos inciertos restantes (tipicamente 500-1,000). Precision: 85-92%. Tiempo de experto: 3-5 horas.

Despues de este ciclo, aprueba automaticamente todas las predicciones donde la confianza del modelo exceda el 95%. Para un dataset de 10,000 documentos, esto tipicamente cubre 6,000-7,000 documentos que el experto nunca necesita ver.

Tiempo Total de Experto

Sin aprendizaje activo: ~400 horas (etiquetar 10,000 documentos a ~25 por hora).

Con aprendizaje activo: ~20-25 horas a traves de 4-5 ciclos, mas 8 horas para el conjunto semilla. Aproximadamente 30 horas en total.

Eso es una reduccion del 92% en tiempo de experto. Incluso usando el benchmark conservador del 75%, los ahorros son transformadores.

Flujo de Trabajo del Experto del Dominio

El experto del dominio no deberia necesitar tocar una terminal, escribir codigo ni entender machine learning. Su interfaz deberia mostrar:

1. El documento (o extracto relevante)
2. La etiqueta sugerida
3. El puntaje de confianza del modelo
4. Un boton "Aprobar" y un desplegable para seleccionar una etiqueta diferente

Eso es todo. Sin notebooks de Python. Sin argumentos de linea de comandos. Sin edicion de JSON.

El trabajo del experto es juicio del dominio: "Es correcta esta etiqueta?" Ellos aportan la experiencia. El sistema aporta la eficiencia.

Para equipos que usan Ertas Data Suite, esta interfaz esta incorporada. El ciclo de aprendizaje activo se ejecuta automaticamente — el sistema entrena el modelo, ordena por incertidumbre y presenta la cola de anotacion. El experto simplemente abre la aplicacion y comienza a revisar.

Metricas de Calidad

Dos metricas te dicen si el ciclo de aprendizaje activo esta funcionando.

Acuerdo Inter-Anotador

Si multiples expertos estan revisando los mismos datos, mide con que frecuencia coinciden. Un kappa de Cohen superior a 0.8 es acuerdo fuerte. Entre 0.6 y 0.8, hay categorias ambiguas que necesitan definiciones mas claras. Por debajo de 0.6, las directrices de etiquetado necesitan una revision completa antes de continuar.

Incluso con un solo anotador, puedes medir consistencia re-presentando el 5% de los ejemplos ya etiquetados (mezclados aleatoriamente en la cola) y verificando si el experto da la misma etiqueta. Consistencia por debajo del 90% indica fatiga o directrices poco claras.

Calibracion de Confianza del Modelo

Los puntajes de confianza del modelo deben estar calibrados — cuando dice 90% de confianza, deberia ser correcto el 90% de las veces. Si el modelo dice 90% pero solo es correcto el 70% de las veces, el muestreo por incertidumbre no esta funcionando correctamente porque el modelo no sabe lo que no sabe.

Verifica la calibracion despues de cada ciclo de reentrenamiento. Grafica la confianza predicha contra la precision real en intervalos (0-10%, 10-20%, etc.). Un modelo bien calibrado muestra una linea diagonal. Un modelo sobreconfiado muestra alta confianza predicha con menor precision real. Si el modelo es sistematicamente sobreconfiado, considera el escalado de temperatura o el suavizado de etiquetas durante el entrenamiento.

Cuando Detenerse

El aprendizaje activo tiene rendimientos decrecientes. Cada ciclo agrega menos informacion nueva porque los ejemplos sin etiquetar restantes son cada vez mas similares a los que el modelo ya ha visto.

Detente cuando se cumpla cualquiera de estas condiciones:

• La precision del modelo se estabiliza: Dos ciclos consecutivos muestran menos del 1% de mejora en precision. El modelo ha aprendido lo que puede aprender de estos datos.
• El esfuerzo del experto excede el valor: Cuando el experto aprueba mas del 95% de las sugerencias, las correcciones restantes son casos limite que pueden no justificar el tiempo del experto.
• La cobertura es suficiente: Tienes ejemplos etiquetados cubriendo todas las categorias, todos los casos limite y todas las ambiguedades conocidas. Etiquetas adicionales agregan volumen pero no variedad.

Para la mayoria de las tareas de clasificacion empresarial, 3-4 ciclos de aprendizaje activo son suficientes. Un quinto ciclo rara vez produce mejora significativa.

Manejo de Casos Limite

El aprendizaje activo saca a la superficie los casos limite de manera natural — son los ejemplos de alta incertidumbre que se presentan a los expertos. Este es uno de sus beneficios subestimados.

Sin aprendizaje activo, los casos limite se esconden en los datos sin etiquetar. El modelo los encuentra en produccion, los clasifica mal y los usuarios reportan errores. Con aprendizaje activo, el modelo identifica estos casos durante la preparacion y un experto los resuelve antes del despliegue.

Documenta las decisiones de casos limite. Cuando un experto etiqueta un documento ambiguo, registra el razonamiento. "Este documento contiene tanto elementos de factura como lenguaje contractual. Etiquetado como 'Contrato' porque los terminos vinculantes tienen precedencia." Estas notas se convierten en el conocimiento institucional sobre el que futuros anotadores e iteraciones de modelos se construyen.

La Economia

Para una empresa que procesa 50,000 documentos por ano en 3 tareas de clasificacion:

Sin aprendizaje activo: 3 tareas x 50,000 docs x 2 minutos por etiqueta = 5,000 horas de tiempo de experto. A $120/hora = $600,000/ano.

Con aprendizaje activo: 3 tareas x ~30 horas por tarea = ~90 horas de tiempo de experto. A $120/hora = $10,800/ano. Mas costos de infraestructura de aproximadamente $5,000/ano para tiempo de GPU on-premise.

Ahorro total: aproximadamente $584,000/ano. La infraestructura se paga sola en la primera semana.

Estos numeros escalan. Volumenes de documentos mas grandes aumentan los ahorros porque la eficiencia del aprendizaje activo se mantiene — el modelo sigue aprendiendo de un numero fijo de ejemplos revisados por expertos, independientemente de cuantos documentos permanezcan en el grupo de aprobacion automatica.

Lectura Adicional

• Los Expertos del Dominio Deben Ser Duenos del Etiquetado de Datos — Por que la experiencia en el dominio importa mas que la velocidad de anotacion, y como estructurar flujos de trabajo de expertos.
• Optimizar Inferencia Local de LLM para Etiquetado de Datos — Guia tecnica para ejecutar inferencia eficientemente en hardware local para pipelines de etiquetado.
• Etiquetado de Datos con LLM Local Sin Egreso — El caso mas amplio para mantener los flujos de trabajo de etiquetado completamente on-premise.