ISO 27001 & AI Compliance

Overview

ISO/IEC 27001 es la norma reconocida internacionalmente para los sistemas de gestión de la seguridad de la información (SGSI). Publicada por la Organización Internacional de Normalización y la Comisión Electrotécnica Internacional, la norma ofrece un enfoque sistemático para gestionar la información sensible mediante la evaluación de riesgos, los controles de seguridad y la mejora continua. La revisión de 2022 (ISO/IEC 27001:2022) reorganizó los controles del Anexo A y añadió otros nuevos, como el enmascaramiento de datos y la prevención de fugas de datos, que afectan directamente a los sistemas de IA y de analítica de datos. El periodo de transición para los certificados emitidos según la versión de 2013 terminó el 31 de octubre de 2025.

La certificación ISO 27001 demuestra a clientes, socios y reguladores que una organización ha implantado un enfoque de la seguridad de la información basado en el riesgo. Para las organizaciones de IA, la certificación es cada vez más un requisito previo para los contratos empresariales, sobre todo en los servicios financieros, la sanidad, la administración pública y la defensa, donde la sensibilidad de los datos de entrenamiento y de los resultados de los modelos exige una gobernanza de la seguridad rigurosa. La norma es compatible con otros marcos como SOC 2, NIST CSF y el RGPD, y la ISO/IEC 42001, publicada en 2023, añade una norma de sistema de gestión específica para la IA concebida para funcionar junto a ella.

ISO 27001 es una norma de sistema de gestión: las organizaciones identifican sus propios riesgos de seguridad y aplican controles proporcionados. Para los equipos de IA, esto supone evaluar los riesgos propios de los flujos de aprendizaje automático, como el envenenamiento de los datos de entrenamiento, el robo de modelos, los ataques adversarios, las fugas de datos a través de los resultados del modelo y el acceso no autorizado a conjuntos de datos sensibles. El énfasis de la norma en la mejora continua mediante ciclos Planificar-Hacer-Verificar-Actuar (PDCA) hace que los controles de seguridad evolucionen a medida que cambian las amenazas y las tecnologías de IA.

AI-Specific Requirements

El Anexo A de ISO 27001 ofrece un catálogo de controles de seguridad organizados en cuatro temas: organizativos, de personas, físicos y tecnológicos. Para los sistemas de IA, varios controles tecnológicos son especialmente relevantes. El control A.8.1 (Dispositivos finales de usuario) regula cómo se protegen las estaciones de trabajo usadas para el desarrollo de IA. El control A.8.3 (Restricción del acceso a la información) exige que el acceso a los datos de entrenamiento y a los artefactos de los modelos se restrinja según políticas de control de acceso definidas. El control A.8.10 (Eliminación de la información) exige procedimientos de eliminación segura para los datos de entrenamiento que ya no se necesitan.

La revisión de 2022 introdujo el control A.8.11 (Enmascaramiento de datos), que se aplica directamente a la preparación de datos de entrenamiento de IA. Las organizaciones deben implantar procedimientos de enmascaramiento de datos, incluidas la seudonimización y la anonimización, de acuerdo con la legislación aplicable y los requisitos del negocio. El control A.8.12 (Prevención de fugas de datos) exige medidas para evitar la divulgación no autorizada de información sensible, lo que en los sistemas de IA incluye impedir la extracción de datos de entrenamiento mediante consultas al modelo y proteger los pesos del modelo frente a la exfiltración.

La evaluación de riesgos de la cláusula 6.1.2 exige que las organizaciones identifiquen los riesgos para la confidencialidad, la integridad y la disponibilidad de los activos de información. Para las organizaciones de IA, esto incluye evaluar los riesgos para los conjuntos de datos de entrenamiento, los pesos de los modelos, las configuraciones de hiperparámetros, los resultados de evaluación y los resultados de inferencia. El plan de tratamiento de riesgos debe abordar los riesgos identificados mediante controles, transferencia, evitación o aceptación, y debe revisarse a intervalos planificados. Las organizaciones también deben mantener una Declaración de Aplicabilidad que documente qué controles del Anexo A están implantados y justifique cualquier exclusión.

How Ertas Helps

En un SGSI, un modelo a medida trae consigo dos activos de información con riesgos distintos: el conjunto de datos de entrenamiento y el modelo entrenado. Ertas Studio entrena en las GPU en la nube de Ertas, por lo que el conjunto de datos se sube a Ertas y se almacena para poder repetir las ejecuciones, lo que convierte a Ertas en proveedor respecto a esos datos según los controles A.5.19 a A.5.22. Aplique el control A.8.11 antes de subir los datos enmascarando o seudonimizando todo lo que la tarea no necesite, use Data Craft, el generador de conjuntos de datos de Studio, para editar y aprobar cada ejemplo, y elimine el conjunto de datos según el control A.8.10 cuando ya no se necesite.

El modelo entrenado es suyo. Expórtelo en GGUF o safetensors y ejecútelo en su propio entorno, donde ya se aplican sus controles de restricción de acceso, registro, criptografía y prevención de fugas, y donde los datos de inferencia nunca llegan a Ertas. La versión exportada no cambia hasta que vuelva a entrenar, así que cada cambio de modelo pasa por su propia gestión de cambios según el control A.8.32. El endpoint de modelo adaptativo y los desarrollos empresariales a medida pueden ejecutar el modelo en su propia nube o en sus propias instalaciones (on-premise).

El SGSI sigue siendo suyo: la evaluación de riesgos y el plan de tratamiento, la Declaración de Aplicabilidad y la operación de cada control del Anexo A en su entorno. Ertas no proporciona control de acceso, registro ni cifrado para los sistemas que usted ejecuta.

Compliance Checklist