OpenRouter + Ertas

Accede a modelos entrenados con Ertas junto a cientos de otros LLMs a través de la API unificada de OpenRouter, con enrutamiento de respaldo automático y optimización de costos.

Overview

OpenRouter es un gateway de API unificado que proporciona acceso a cientos de modelos de lenguaje grandes de múltiples proveedores a través de un solo endpoint. En lugar de gestionar claves API, SDKs y relaciones de facturación separadas con OpenAI, Anthropic, Google y decenas de hosts de modelos de código abierto, los desarrolladores se integran una vez con OpenRouter y obtienen acceso a todo el ecosistema de modelos. OpenRouter maneja el enrutamiento, el balanceo de carga, los límites de tasa y el failover de proveedores automáticamente.

Más allá de la agregación, OpenRouter proporciona herramientas inteligentes de selección de modelos. Los desarrolladores pueden comparar modelos lado a lado en métricas de costo, velocidad y calidad antes de comprometerse con uno. La plataforma soporta alojamiento de modelos personalizados, lo que significa que las organizaciones pueden registrar sus propios modelos ajustados junto a los públicos y enrutar entre ellos usando la misma API. Esto hace de OpenRouter un canal natural de distribución y despliegue para equipos que quieren servir sus modelos entrenados con Ertas a consumidores internos o externos a través de una capa de API gestionada.

How Ertas Integrates

Después de ajustar un modelo en Ertas Studio, puedes registrarlo con OpenRouter como un endpoint de modelo personalizado. Esto permite a tu equipo — o consumidores externos — acceder a tu modelo entrenado con Ertas a través de la API estándar de OpenRouter junto a cualquier otro modelo que usen. El beneficio es simplicidad operativa: en lugar de gestionar un endpoint de inferencia separado y una capa de API para tu modelo ajustado, aprovechas la infraestructura existente de OpenRouter para autenticación, límites de tasa, seguimiento de uso y facturación.

Para equipos que usan múltiples modelos para diferentes tareas, las capacidades de enrutamiento de OpenRouter se combinan bien con modelos especialistas entrenados con Ertas. Podrías enrutar consultas complejas específicas de dominio a tu modelo entrenado con Ertas mientras usas un modelo de propósito general como respaldo para tareas más simples. La API de OpenRouter es totalmente compatible con el SDK de OpenAI, por lo que cualquier aplicación construida sobre las bibliotecas cliente de OpenAI puede cambiar a usar tu modelo ajustado cambiando solo la URL base y el nombre del modelo — el mismo patrón que hace a los modelos de Ertas portables a través de todo el ecosistema de inferencia de código abierto.

Getting Started

1
Ajusta tu modelo en Ertas Studio
Entrena un modelo específico de dominio con tus datos usando Ertas Studio. Selecciona el modelo base y el formato de cuantización apropiados para tus requisitos de rendimiento y costo.
2
Despliega en un endpoint de inferencia
Sirve tu modelo vía Ertas Cloud, vLLM o cualquier servidor de inferencia de grado de producción con un endpoint público o accesible por VPN.
3
Registra el modelo con OpenRouter
Agrega tu modelo entrenado con Ertas como modelo personalizado en el dashboard de OpenRouter. Configura la URL del endpoint, las capacidades del modelo y los permisos de acceso.
4
Configura reglas de enrutamiento
Establece preferencias de enrutamiento para dirigir tipos específicos de consultas o aplicaciones a tu modelo ajustado. Configura modelos de respaldo para escenarios de alta disponibilidad.
5
Integra con la API de OpenRouter
Usa la API de OpenRouter — compatible con el SDK de OpenAI — para acceder a tu modelo desde cualquier aplicación. Rastrea el uso y los costos a través del dashboard de OpenRouter.

python

from openai import OpenAI

# Use OpenRouter to access your Ertas-trained model
client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key="sk-or-your-openrouter-key",
)

response = client.chat.completions.create(
    model="your-org/ertas-legal-7b",  # Your custom model on OpenRouter
    messages=[
        {"role": "system", "content": "You are a legal document analyst."},
        {"role": "user", "content": "Summarize the key obligations in this contract."},
    ],
    temperature=0.1,
    max_tokens=1024,
)

print(response.choices[0].message.content)

Accede a tu modelo entrenado con Ertas a través de la API unificada de OpenRouter usando el SDK estándar de Python de OpenAI.

Benefits

Sirve modelos ajustados a través de una API gestionada con autenticación y límites de tasa integrados
API compatible con el SDK de OpenAI significa cero cambios de código para aplicaciones existentes
Enrutamiento de respaldo automático asegura alta disponibilidad para cargas de trabajo de producción
Seguimiento de uso y análisis de costos de todos los modelos en un solo dashboard
Enruta inteligentemente entre modelos especialistas ajustados y modelos de propósito general
Comparte modelos ajustados con miembros del equipo o consumidores externos mediante controles de acceso