¿Qué es un LLM de dominio específico? Ejemplos

Un LLM de dominio específico es un modelo de lenguaje grande entrenado para conocer un campo (su vocabulario, sus hechos y sus convenciones) de modo que pueda servir para muchas tareas dentro de ese campo. Finanzas, derecho, medicina y diseño de chips tienen ejemplos publicados. Un modelo de tarea específica es más estrecho: se entrena para un solo trabajo, como resumir una reunión a partir de una consulta o extraer los campos de una factura, y se evalúa solo en ese trabajo.

Las dos ideas suelen compartir definición. El artículo explicativo de IBM, consultado el 29 de octubre de 2026, describe un LLM de dominio específico como uno "trained or fine-tuned to specialize in a specific field or subject area, allowing it to perform domain-specific tasks more accurately and efficiently than a general-purpose LLM" (entrenado o ajustado para especializarse en un campo, de modo que realiza las tareas de ese dominio con más precisión y eficiencia que un LLM generalista). Esa frase abarca ambas cosas. Este artículo las separa, porque los datos de entrenamiento, la construcción y la evaluación cambian en cada caso, y la mayoría de los sistemas reales usan las dos a la vez.

Una nota sobre la búsqueda: en software, un "lenguaje de dominio específico" es un lenguaje de programación pequeño, como SQL, así que los resultados para "domain-specific language models" mezclan dos temas. Este artículo trata de LLM.

¿Qué es un LLM de dominio específico?

Un LLM de dominio específico es un modelo de lenguaje cuyo conocimiento se ha desplazado hacia un campo entrenándolo con textos de ese campo. Lee los documentos del campo con menos errores de interpretación, usa bien sus términos y sigue sus convenciones, como los formatos de cita en derecho o la estructura de una nota clínica. Dentro del campo sigue siendo general: un mismo modelo financiero puede responder preguntas sobre informes regulatorios, clasificar el sentimiento de una noticia y redactar un resumen.

Hay tres vías para obtener uno, de la más cara a la más barata:

• Entrenar desde cero con una mezcla de texto del dominio y texto general, como hizo BloombergGPT.
• Preentrenamiento continuado de un modelo existente con texto bruto del dominio, como hicieron SaulLM-7B y BioMistral.
• Fine-tuning con instrucciones y ejemplos del dominio, normalmente después del preentrenamiento continuado.

Nuestro artículo sobre preentrenamiento continuado, fine-tuning y RAG explica cuándo encaja cada vía y cuándo la recuperación resuelve el problema sin ningún entrenamiento.

¿En qué se diferencia un LLM de dominio específico de un modelo de tarea específica?

Un LLM de dominio específico conoce un campo y sirve para muchas tareas en él, mientras que un modelo de tarea específica hace un solo trabajo y se mide en ese trabajo. La diferencia aparece en cuatro puntos.

La prueba más rápida es la evaluación. Si un único conjunto reservado basta para decidir si el modelo es suficientemente bueno, estás construyendo un modelo de tarea. Si necesitas una batería que cubra muchas tareas, estás construyendo un modelo de dominio.

La investigación trazó la misma línea en 2020. En "Don't Stop Pretraining", Gururangan et al. observaron, en cuatro dominios y ocho tareas de clasificación, que una segunda fase de preentrenamiento dentro del dominio (preentrenamiento adaptado al dominio) mejora los resultados, y que adaptar el modelo a los datos sin etiquetar de la propia tarea los mejora incluso después de esa fase. El conocimiento del dominio y la habilidad en la tarea son mejoras distintas, y la segunda se apoya en la primera.

Nuestro artículo sobre modelos fundacionales y modelos de tarea específica cubre a fondo el lado de la tarea: qué son los modelos de tarea específica, cuándo ganan y cómo se puede repartir el trabajo de una empresa entre especialistas.

¿Qué ejemplos de LLM de dominio específico existen?

Los LLM de dominio específico publicados cubren finanzas, derecho, medicina e ingeniería. Cada ejemplo se consultó en su fuente el 29 de octubre de 2026.

La tabla muestra todas las vías en uso, y la entrada más reciente combina modelos de dominio con modelos generales.

BloombergGPT es un modelo de 50.000 millones de parámetros entrenado con un conjunto de datos financieros de 363.000 millones de tokens más 345.000 millones de tokens de datos generales. Su artículo afirma que supera a los modelos existentes en tareas financieras por márgenes significativos sin sacrificar rendimiento en los benchmarks generales de LLM.

SaulLM-7B parte de Mistral 7B y se entrena con un corpus jurídico en inglés de más de 30.000 millones de tokens, para luego ajustarse por instrucciones con conjuntos de datos jurídicos, según su artículo.

BioMistral es Mistral con un preentrenamiento adicional sobre PubMed Central, evaluado en 10 tareas de preguntas y respuestas médicas, según su artículo.

Cheng et al., en "Adapting Large Language Models to Domains via Reading Comprehension", observaron que el preentrenamiento continuado con texto bruto del dominio aporta conocimiento del dominio, pero perjudica de forma drástica la capacidad del modelo para responder preguntas a partir de un prompt. Convertir ese texto en ejercicios de comprensión lectora mejoró los resultados en sus tres dominios, y los autores presentan su modelo de 7B como competitivo con modelos de dominio mucho más grandes, como BloombergGPT-50B.

Cadence Maestro, anunciado el 26 de octubre de 2026, es una cartera de modelos postentrenados para un dominio que los agentes de Cadence orquestan junto con modelos frontera y modelos de pesos abiertos. Cadence comunica resultados iniciales de hasta un 30% más de calidad y hasta 5 veces más eficiencia en tokens frente a un modelo fundacional generalista, y prevé que los primeros modelos lleguen a clientes seleccionados de acceso anticipado en el cuarto trimestre de 2026.

¿Cómo se combinan los modelos de dominio y los de tarea?

Se combinan de tres maneras, y los sistemas en producción suelen usar más de una.

1. Entrenamiento por capas. Primero el preentrenamiento de dominio, luego el fine-tuning de la tarea encima. SaulLM-7B sigue este orden, y los resultados de Gururangan et al. explican por qué funciona: cada etapa aporta su propia mejora.
2. Enrutamiento. Un modelo general o de dominio atiende las peticiones abiertas, y los especialistas de tarea atienden los trabajos que se repiten a gran volumen. El diseño de Cadence es un ejemplo público: los agentes descomponen un objetivo y envían cada paso a un modelo de dominio, a un modelo frontera o a un modelo de pesos abiertos.
3. Recuperación. Los hechos que cambian van a un índice de recuperación, y el comportamiento, el formato y la habilidad en la tarea van al modelo. Es el principio que aplicamos en cada proyecto.

En nuestra propia investigación, la mayor mejora llegó al entrenar el modelo con las entradas que de verdad iba a recibir. En nuestro estudio QMSum (arXiv 2609.25028), un mismo modelo base que leía fragmentos recuperados de la transcripción ganó 1,55 puntos de ROUGE-1 en el conjunto de prueba solo por las mejores entradas, y otros 5,29 puntos al entrenarlo con esas mismas entradas en forma de fragmentos, con un intervalo del 95% de +4,02 a +6,56. La recuperación y el entrenamiento funcionaron mejor juntos, y el entrenamiento aportó la mayor parte de la mejora.

¿Cuándo rinde igual un modelo general?

Un modelo general rinde igual cuando el conocimiento del campo es público y ya está bien cubierto en sus datos de entrenamiento. La comparación de Manufacturers' Monthly entre modelos de dominio y modelos generalistas (20 de octubre de 2026) señala que la ventaja de BloombergGPT se redujo al llegar modelos generalistas más nuevos, y que más tarde un modelo general bien instruido igualó a un modelo médico ajustado en preguntas de examen de licencia médica.

Ese patrón indica dónde conserva su valor el entrenamiento de dominio: en el conocimiento que los modelos generales nunca vieron. Los documentos de tu organización, su vocabulario interno, sus decisiones y sus formatos quedan fuera de todos los conjuntos de entrenamiento públicos, igual que los trabajos concretos que tu equipo hace cada día. El mismo artículo cita la otra razón por la que las empresas construyen sus propios modelos: requisitos de privacidad de datos y de regulación que impiden usar servicios de IA alojados por terceros.

La mayoría de los equipos acaba con una mezcla: un modelo capaz para el trabajo abierto, especialistas entrenados para los trabajos repetidos y recuperación para los hechos.

¿Qué efecto tiene un modelo entrenado en el coste?

Un modelo entrenado, sea de dominio o de tarea, reduce la factura por dos frentes: un precio por token más bajo que el de los grandes modelos frontera, y menos tokens por tarea, porque las instrucciones, el glosario y el contexto que repites en cada prompt quedan entrenados en el propio modelo. El segundo ahorro depende de qué parte de cada prompt es texto repetido, así que mide esa proporción en tu propio tráfico antes de ponerle una cifra. La calculadora de coste por tarea (en inglés) calcula las dos dimensiones con tus propios tamaños de prompt y volúmenes.

Ertas es un laboratorio de IA aplicada, y el endpoint de modelo adaptativo es la forma en que llevamos un modelo entrenado a producción: un modelo entrenado con tu tarea y con los datos de tu campo, servido a través de una API compatible con OpenAI. Las versiones nuevas se entrenan en segundo plano con el tráfico de tus agentes, se puntúan con tus evaluaciones y solo entran en servicio con tu aprobación. Si una versión nueva no alcanza el nivel, el modelo actual sigue en servicio. Funciona gestionado por Ertas, en tu propia nube o en tus instalaciones. Por ahora el endpoint funciona solo por invitación, y estamos desarrollando una versión más ágil para abrirlo a más empresas.

Preguntas Frecuentes

¿ChatGPT es un LLM de dominio específico?

ChatGPT funciona con modelos generalistas entrenados con datos amplios. Con instrucciones y documentos puede trabajar dentro de un campo mediante prompts y recuperación, mientras el modelo en sí sigue siendo general. Un LLM de dominio específico tiene el entrenamiento desplazado hacia un campo.

¿Qué diferencia hay entre un lenguaje de dominio específico y un LLM de dominio específico?

Un lenguaje de dominio específico es un lenguaje de programación pequeño creado para un área, como SQL para bases de datos. Un LLM de dominio específico es un modelo de lenguaje grande entrenado con los textos de un campo. Comparten una expresión y poco más.

¿Cómo se construye un LLM de dominio específico?

Parte de un modelo abierto existente, continúa su preentrenamiento con texto bruto del campo si al modelo base le falta el vocabulario y luego ajústalo con ejemplos de las tareas que necesitas. Lleva a la recuperación los hechos que cambian. Entrenar desde cero, como hizo BloombergGPT con cientos de miles de millones de tokens, es con diferencia la vía más cara.

¿Los LLM de dominio específico son mejores que los modelos generales?

En las tareas de su campo suelen serlo cuando se construyen, y la ventaja puede reducirse a medida que los modelos generales mejoran con el conocimiento público. La ventaja duradera viene del conocimiento privado y de los trabajos repetidos con los que ningún modelo general se entrenó, y de poder ejecutar el modelo donde tus datos tienen que quedarse.

¿Cómo se evalúa un LLM de dominio específico?

Con un conjunto reservado sacado del trabajo real del campo, un protocolo fijado antes de puntuar e intervalos de confianza en cada comparación. Nuestra guía de evaluación de LLM de dominio específico recorre el método con nuestro estudio QMSum.

¿Qué es la adaptación de dominio?

La adaptación de dominio es el término general para ajustar un modelo generalista a un campo, mediante preentrenamiento continuado, fine-tuning o ambos. La entrada del glosario describe las etapas.

En resumen

Un LLM de dominio específico conoce un campo y sirve para muchas tareas en él. Un modelo de tarea específica hace un solo trabajo. Los dos se apilan bien: primero el conocimiento del dominio, encima la habilidad en la tarea, y la recuperación para los hechos que cambian. El conocimiento público de cada campo sigue entrando en los modelos generales, así que el valor duradero del entrenamiento está en tus propios datos y en tu propio trabajo repetido. Para profundizar en cómo entra el conocimiento en un modelo, lee preentrenamiento continuado, fine-tuning y RAG.

---

Fuentes, consultadas el 29 de octubre de 2026: IBM, "What is a domain-specific LLM?"; Gururangan et al., "Don't Stop Pretraining" (2020); Wu et al., "BloombergGPT" (2023); Colombo et al., "SaulLM-7B" (2024); Labrak et al., "BioMistral" (2024); Cheng et al., "Adapting Large Language Models to Domains via Reading Comprehension" (2023); Cadence, anuncio de Maestro (26 de octubre de 2026); Manufacturers' Monthly, "Choosing between domain-specific and general purpose AI models" (20 de octubre de 2026). Nuestra investigación: el estudio QMSum.