Un LLM privado para tu empresa.
Un LLM privado para empresas es un modelo de lenguaje que se ejecuta donde tu organización decide, con tus propios controles de acceso, y que está entrenado con tu propio trabajo. Ertas entrena uno con tus datos para una tarea concreta y lo ejecuta gestionado por Ertas, en tu propia nube u on-premise. Tus datos siguen siendo privados.
¿Qué es un LLM privado?
Un LLM privado es un modelo de lenguaje desplegado para una sola organización, con sus solicitudes, registros y datos de entrenamiento bajo el control de esa organización.
El término abarca dos decisiones distintas: dónde se ejecuta el modelo y con qué se entrenó. Un modelo abierto que alojas tú mismo es privado y sigue siendo genérico. Un modelo entrenado con ejemplos de tu trabajo además aprende tus formatos, tu terminología y tus decisiones.
¿En qué se diferencia un LLM privado de una API de IA pública?
Una API de IA pública procesa cada solicitud en los servidores del proveedor, según los términos del proveedor. Esos términos han mejorado: la página de privacidad empresarial de OpenAI dice que por defecto no usa los datos de empresa para entrenar sus modelos, y que puede conservar las entradas y salidas de la API hasta 30 días para prestar los servicios e identificar abusos, a fecha de octubre de 2026.
Un LLM privado pone la ubicación, la retención y el acceso bajo tu propia política, y añade el entrenamiento con tu propio trabajo.
- Ubicación
- Tú eliges dónde se ejecuta el modelo y dónde se guardan sus registros.
- Retención
- Tu política fija cuánto tiempo se guardan las solicitudes y las salidas.
- Entrenamiento
- Entrenado con ejemplos que aprueba tu equipo, para la tarea que elijas.
- Coste
- Por token, por plaza o en una GPU dedicada. A gran volumen, menos tokens por tarea y un coste por token más bajo que el de los grandes modelos de frontera.
¿Dónde puede ejecutarse un LLM privado?
En tres lugares, según adónde puedan ir tus datos. El modelo queda detrás de una sola API en cada uno de ellos.
Cuando los datos deben quedarse en un país, ejecuta el modelo en tu propia cuenta de nube en una región de ese país, o en tus propios servidores. Modelos de IA a medida en Australia desarrolla un ejemplo.
- Gestionado por Ertas
- Alojamos, supervisamos y actualizamos el modelo. Tus datos siguen siendo privados.
- Tu nube
- Tu propia cuenta de AWS, Azure o Google Cloud, con los controles que ya tienes.
- On-premise
- Tus propios servidores, dentro de tu red.
¿Qué deberías preguntar a un proveedor de LLM privado?
Estas cinco preguntas cubren casi todo lo que preguntará una revisión de seguridad. Nuestro marco de confianza propuesto cubre las preguntas de medición y de cambios con una evaluación específica de la tarea, un umbral de seguridad y un registro del modelo.
- Dónde se ejecuta
- Pide la región y el proveedor de cada entorno, incluidos registros y copias de seguridad.
- Quién puede verlo
- Pregunta qué personal y qué subencargados pueden acceder a prompts, salidas y registros.
- Cómo se mide
- Pide un conjunto de prueba construido con tus ejemplos y una puntuación para cada versión.
- De quién es
- Pregunta qué puedes llevarte y en qué condiciones.
- Cómo cambia
- Pregunta cómo se aprueba una versión nueva y qué sigue en servicio si se queda corta.
Preguntas frecuentes.
¿Un LLM privado es más caro que una API pública?
Depende del volumen. Para una tarea que se repite a gran volumen, los costes bajan por dos lados: un precio por token más bajo que el de los grandes modelos de frontera, y menos tokens por tarea, porque las instrucciones y el contexto repetidos en cada prompt quedan entrenados en el modelo. Para trabajo ocasional y abierto, una API pública suele costar menos. Los costes de uso son por token para tráfico variable o en crecimiento, por plaza (una cuota mensual con tokens ilimitados y un límite de concurrencia) para tráfico estable, o en una GPU dedicada para los mayores volúmenes.
¿Puede un LLM privado usar nuestros documentos?
Sí. El entrenamiento enseña al modelo tu tarea y tus formatos, y la recuperación de información le da los documentos que cambian a menudo. Muchos proyectos usan ambas cosas.
¿Somos dueños de un LLM privado que entrena Ertas?
Se entrena con tu trabajo y lo ajusta tu equipo, y por defecto se ejecuta en Ertas. La propiedad y la entrega del modelo están disponibles con un compromiso mínimo de colaboración.
¿Cuánto se tarda en poner en marcha un LLM privado?
Primero vienen una auditoría gratuita y la preparación de datos, y después una prueba de concepto de tres a cuatro semanas. El modelo de producción llega cuando tu equipo aprueba el resultado.