SOC 2 & AI Compliance

Overview

SOC 2 (System and Organization Controls 2) es un marco de auditoría desarrollado por el Instituto Americano de Contadores Públicos Certificados (AICPA) que evalúa los sistemas de información de una organización según cinco Criterios de Servicios de Confianza: seguridad, disponibilidad, integridad del procesamiento, confidencialidad y privacidad. SOC 2 se basa en principios: las organizaciones definen sus propios controles y un auditor independiente evalúa su diseño y la eficacia de su funcionamiento.

Para las organizaciones de IA y aprendizaje automático, un informe SOC 2 se ha convertido en un requisito de facto para las ventas a empresas. Los clientes de servicios financieros, sanidad, tecnología y otros sectores regulados piden cada vez más informes SOC 2 Tipo II antes de aprobar a los proveedores que manejarán sus datos. Un informe Tipo II cubre un periodo de observación, normalmente de seis a doce meses, y muestra que los controles existen y que funcionaron eficazmente durante todo ese periodo.

Los sistemas de IA introducen consideraciones particulares en las auditorías SOC 2. Los flujos de datos de entrenamiento, el versionado de modelos, los endpoints de inferencia y los sistemas de toma de decisiones automatizada quedan dentro del alcance de las evaluaciones SOC 2. Los auditores evalúan cómo protegen las organizaciones la confidencialidad de los datos de entrenamiento, aseguran la integridad del procesamiento de los resultados de los modelos, mantienen la disponibilidad de los servicios de IA en producción y salvaguardan la privacidad de las personas cuyos datos aparecen en los conjuntos de entrenamiento. Las organizaciones que no pueden demostrar controles eficaces en estas áreas se arriesgan a hallazgos de auditoría que retrasen los acuerdos con empresas.

AI-Specific Requirements

La categoría de Seguridad, evaluada mediante los Criterios Comunes, es la base de todo encargo SOC 2 y la única categoría obligatoria. En los sistemas de IA, los controles de seguridad deben abordar la gestión del acceso a los datos de entrenamiento y a los artefactos de los modelos, la gestión de cambios en los despliegues de modelos, los procedimientos de evaluación de riesgos para las amenazas propias de la IA y la monitorización de los componentes del sistema de IA. Las organizaciones deben implantar controles de acceso lógico que limiten quién puede ver, modificar o eliminar los conjuntos de datos de entrenamiento y los pesos de los modelos.

La Integridad del Procesamiento es especialmente relevante para los sistemas de IA porque exige que el procesamiento del sistema sea completo, válido, exacto, oportuno y autorizado. En los flujos de aprendizaje automático, esto significa demostrar que las transformaciones de los datos de entrenamiento producen resultados correctos, que los resultados de inferencia del modelo son coherentes y fiables, y que los fallos de los flujos de datos se detectan y se resuelven. Las organizaciones deben conservar pruebas de que su procesamiento de IA produce resultados que alcanzan los umbrales de calidad definidos y de que las anomalías activan las alertas y los flujos de corrección adecuados.

Los criterios de Confidencialidad y Privacidad exigen que las organizaciones protejan la información sensible durante todo su ciclo de vida. Para los equipos de IA, esto abarca los datos de entrenamiento que contienen información de clientes, los pesos de modelos propietarios, los conjuntos de datos de evaluación y los registros de inferencia que pueden contener entradas sensibles. Los controles deben abordar la clasificación de datos, el cifrado en reposo y en tránsito, la eliminación segura de los datos que ya no se necesitan y las restricciones al intercambio de datos con terceros. El criterio de Privacidad añade requisitos de aviso, elección, consentimiento, limitación de la recogida y calidad de los datos que se alinean estrechamente con las obligaciones del RGPD y la CCPA.

How Ertas Helps

El alcance de su SOC 2 abarca los sistemas que tratan los datos de sus clientes, además de los proveedores de los que dependen esos sistemas. Un modelo autoalojado mantiene a Ertas fuera de la ruta de los datos de producción. Exporte el modelo entrenado en GGUF o safetensors y ejecútelo en una infraestructura que ya cubren sus controles: las peticiones y las respuestas nunca llegan a Ertas, y no hay dependencia de nosotros en tiempo de ejecución. El modelo es suyo y su versión no cambia hasta que vuelva a entrenarlo, así que se comporta como cualquier otro artefacto versionado en su gestión de cambios.

El entrenamiento es la parte que pasa por Ertas. Ertas Studio entrena en las GPU en la nube de Ertas, por lo que el conjunto de datos de entrenamiento se sube a Ertas y se almacena para poder repetir las ejecuciones, y puede eliminarlo cuando termine. Evalúe Studio como proveedor en su evaluación de riesgos, y mantenga los datos confidenciales de clientes fuera de los conjuntos de entrenamiento salvo que esa evaluación lo permita. Si quiere que Ertas ejecute el modelo, el endpoint de modelo adaptativo y los desarrollos empresariales a medida pueden ejecutarlo en su propia nube o en sus propias instalaciones (on-premise), dentro del entorno que ya cubren sus controles.

Los controles que prueba su auditor siguen siendo suyos: el acceso lógico, el registro y la monitorización, el cifrado, la aprobación de cambios y la disponibilidad de los sistemas donde se ejecuta el modelo, además del propio encargo de auditoría.

Compliance Checklist