What is Structured Output?

Definition

La salida estructurada se refiere a la capacidad de un modelo de lenguaje para generar respuestas que se ajustan a un formato y esquema específicos, produciendo datos analizables por máquinas en lugar de texto libre. El formato más común es JSON, donde el modelo genera un objeto JSON válido con campos, tipos y valores específicos según lo definido por un esquema. Esta capacidad es esencial para integrar LLMs en sistemas de software donde el código posterior necesita analizar y procesar la salida del modelo programáticamente.

La salida estructurada puede lograrse a través de varios enfoques. Los enfoques basados en prompts instruyen al modelo para generar en un formato específico y esperan que cumpla — simple pero poco fiable. Los enfoques de decodificación restringida modifican el proceso de generación para imponer validez estructural — en cada posición de token, el modelo solo puede elegir tokens que mantengan una estructura válida. Los enfoques basados en esquemas (como Structured Outputs de OpenAI) combinan entrenamiento con decodificación restringida para garantizar que la salida se ajuste a un esquema JSON proporcionado.

La fiabilidad de la salida estructurada es crítica para aplicaciones en producción. Un modelo que genera JSON válido el 95% del tiempo causará errores en 1 de cada 20 solicitudes — inaceptable para sistemas en producción. La decodificación restringida elimina este modo de fallo por completo al hacer imposible que el modelo genere salida estructuralmente inválida. Sin embargo, la validez estructural no garantiza la corrección semántica — el modelo aún puede poner valores incorrectos en campos correctamente formateados.

Why It Matters

La mayoría de las aplicaciones LLM en producción requieren salida estructurada. La extracción de entidades, clasificación, transformación de datos, integración con API y llamadas a funciones necesitan que el modelo produzca salida en un formato específico que el código pueda analizar de forma fiable. Sin salida estructurada, cada integración LLM requiere un análisis frágil basado en regex de respuestas de texto libre, que se rompe cada vez que el modelo cambia ligeramente su formato de respuesta.

La salida estructurada también permite la seguridad de tipos en aplicaciones LLM. Al definir esquemas de salida usando JSON Schema o modelos Pydantic, los desarrolladores pueden validar las salidas del modelo a nivel de tipos, capturando errores en el límite entre el sistema de IA y la lógica de la aplicación. Esto hace que los sistemas impulsados por LLM sean más robustos y fáciles de depurar.

How It Works

La decodificación restringida — el enfoque más fiable — funciona modificando el proceso de muestreo de tokens durante la generación. Una máquina de estados finitos o autómata de análisis rastrea el estado estructural actual (por ejemplo, 'dentro de un objeto JSON, esperando un nombre de clave'). En cada paso de generación, el autómata determina qué tokens son estructuralmente válidos en el estado actual y enmascara todos los demás tokens antes del muestreo. Esto garantiza que cada token generado mantenga la validez estructural.

Para el cumplimiento con esquemas JSON, el sistema compila el esquema JSON en un conjunto de restricciones estructurales. Los campos requeridos deben aparecer, los valores de campo deben coincidir con sus tipos especificados (string, number, boolean, enum), y los campos adicionales pueden prohibirse. El decodificador restringido aplica estas restricciones durante toda la generación, haciendo imposible que el modelo produzca salida que viole el esquema. Bibliotecas como Outlines e Instructor implementan este enfoque para modelos open-source.

Example Use Case

Un pipeline de procesamiento de documentos usa un LLM para extraer datos de facturas en un formato estructurado: {vendor: string, amount: number, date: string, line_items: [{description: string, quantity: number, price: number}]}. Usando decodificación restringida con este esquema JSON, el modelo produce JSON perfectamente formateado para cada factura, que fluye directamente al sistema contable sin fallos de análisis. Antes de la salida estructurada, el 8% de las extracciones fallaban por JSON malformado, requiriendo procesamiento manual.

Key Takeaways

• La salida estructurada permite a los modelos generar datos analizables por máquinas que se ajustan a un esquema definido.
• La decodificación restringida garantiza la validez estructural al enmascarar tokens inválidos durante la generación.
• La validez estructural no garantiza la corrección semántica — los valores aún pueden ser incorrectos.
• La salida estructurada fiable es esencial para integrar LLMs en sistemas de software.
• JSON Schema y Pydantic son formas comunes de definir la estructura de salida esperada.