Saltar al contenido
    Ertas

    Cybench: tabla de clasificación y explicación

    Cybench evalúa agentes de IA en 40 tareas profesionales de seguridad capture-the-flag. Qué mide, cómo se puntúa y cómo leer la tabla de clasificación de Cybench a octubre de 2026.

    SecurityUpdated 2026-10-30

    What It Measures

    Cybench es un benchmark sobre las capacidades y los riesgos de ciberseguridad de los modelos de lenguaje. Contiene 40 tareas capture-the-flag (CTF) de nivel profesional extraídas de cuatro competiciones CTF, que abarcan seis categorías como criptografía, seguridad web, ingeniería inversa y análisis forense. Cada tarea incluye una descripción, archivos iniciales y un evaluador, y muchas se dividen en subtareas para poder medir el progreso parcial.

    Los laboratorios de frontera lo usan para seguir la capacidad ofensiva antes de un lanzamiento: la tabla de clasificación oficial cita system cards de Anthropic, xAI y Meta. Para un equipo de seguridad, la puntuación mide cuánto razonamiento práctico de seguridad puede asumir un modelo, leída desde el lado del defensor como una medición de capacidad hecha por terceros.

    How It Works

    El agente trabaja dentro de un contenedor Kali Linux con los archivos de la tarea y puede acceder por red a los servidores de la tarea. Emite comandos bash, lee la salida y finalmente envía una respuesta que el evaluador comprueba contra la clave de respuestas.

    La tabla de clasificación reporta varias cifras. El porcentaje resuelto sin guía (Unguided % solved) es la proporción de tareas resueltas de principio a fin sin pistas, y es la cifra principal. El porcentaje resuelto con guía por subtareas (Subtask-guided % solved) le da al modelo los pasos intermedios. La tabla también registra la tarea más difícil que resolvió cada modelo, medida por el tiempo que tardó el primer equipo humano en resolverla en la competición original.

    Current Leaders

    #1

    Claude Mythos Preview

    System card de Anthropic, 35 de 40 tareas, según figura en la tabla de clasificación oficial (oct. 2026)

    100%
    #2

    Claude Opus 4.7

    System card de Anthropic, 35 de 40 tareas

    96%
    #3

    Claude Opus 4.6

    System card de Anthropic, 37 de 40 tareas, pass@1 medio

    93%
    #4

    Claude Opus 4.5

    System card de Anthropic, 39 de 40 tareas, pass@1 medio

    82%
    #5

    Muse Spark

    Safety and Preparedness Report de Meta, las 40 tareas

    65.4%

    Qué modelo encaja en cada tarea de seguridad: Mejor LLM para ciberseguridad (octubre de 2026)

    How to Interpret Scores

    Lee las notas al pie de la tabla de clasificación antes de comparar filas. A 30 de octubre de 2026, las primeras filas proceden de las propias system cards de los laboratorios, y varias se ejecutan sobre un subconjunto de las tareas: Claude Mythos Preview y Claude Opus 4.7 sobre 35 de las 40, Claude Opus 4.6 sobre 37 y Claude Opus 4.5 sobre 39. La fila de Muse Spark de Meta usa las 40. Una puntuación sobre 35 tareas y otra sobre 40 son mediciones distintas.

    La tabla no incluye ningún modelo de pesos abiertos actual. Sus filas abiertas más recientes son Llama 3.1 405B y Mixtral 8x22B, con un 7.5% cada uno, de 2024. Las cifras de Cybench de modelos abiertos de 2026 circulan en sitios agregadores como datos copiados de publicaciones de lanzamiento, sin indicar el subconjunto de tareas, así que son autodeclaraciones de los fabricantes y quedan fuera de la tabla. Para una comparación independiente de modelos abiertos y cerrados en trabajo de seguridad, CyberGym tiene actualmente más datos con un mismo harness.

    Una puntuación más alta en Cybench significa que un modelo puede asumir una parte mayor del flujo de trabajo de un atacante, y precisamente por eso los defensores la siguen: indica lo que puede hacer un adversario que use ese modelo y cuánta capacidad tienes disponible para tus propias pruebas y tu respuesta.

    Related Resources

    Ejecuta modelos capaces con tus propios datos de seguridad

    Desplegamos modelos GLM, Kimi y Qwen para equipos de seguridad en infraestructura que gestionamos, en tu propio tenant de nube o en tus instalaciones, de modo que tus datos se mantienen privados y el modelo está listo antes del próximo incidente.

    Agenda una llamada