Programa de auditoría algorítmica

Cómo usar este documento

• Para qué sirve. Es un programa base para planificar, ejecutar, reportar y dar seguimiento a auditorías internas o externas de los sistemas de IA de la organización: su gobierno, sus datos, su desempeño, sus sesgos, su seguridad, los derechos de las personas afectadas y los proveedores.
• Quién debe ser su dueño. Normalmente auditoría interna o, si no existe, una persona independiente de los sistemas auditados o un auditor externo, con el comité de IA (o la dirección, en organizaciones pequeñas) como destinatario de los informes. El auditor designado no es un rol de gobierno nuevo: es quien cumple los requisitos de independencia de la sección 3. Indique el área en [ÁREA RESPONSABLE] y la persona en [RESPONSABLE].
• Decisiones previas. Antes de adoptarlo, decida quién audita y cómo se protege su independencia (sección 3), qué criterios de auditoría se usan (sección 4), con qué frecuencia se audita cada nivel de riesgo (sección 5) y qué plazos de remediación se fijan para cada severidad (sección 10).
• Campos a completar. Sustituya los textos entre corchetes, como [NOMBRE DE LA ORGANIZACIÓN], [COMITÉ DE IA], [FRECUENCIA DE REVISIÓN] y [COMPLETAR], y prepare el plan anual de la ayuda E. Conserve las cláusulas marcadas [OPCIONAL] solo si aplican.
• Variantes por país. Este documento no tiene variantes por país. Algunas normas exigen auditorías concretas, como auditorías de sesgo independientes, evaluaciones periódicas de decisiones automatizadas en el trabajo o revisiones según guías de la autoridad de datos. Identifíquelas en «Referencias normativas relacionadas» y añádalas al plan anual como auditorías obligatorias.
• Revisión. Pida a legal que confirme qué auditorías son obligatorias en su caso y quién puede realizarlas, y a ciencia de datos que valide las pruebas técnicas de la sección 8.
• Aprobación y publicación. Haga que lo apruebe [COMITÉ DE IA] o el comité de auditoría, registre la aprobación en «Control de versiones» y comunique el plan anual a los dueños de los sistemas auditables.

Programa de auditoría algorítmica

Campo	Valor
Organización	[RAZÓN SOCIAL]
Área propietaria del programa	[ÁREA RESPONSABLE]
Responsable del programa	[RESPONSABLE]
Destinatario de los informes	[COMITÉ DE IA]
Aprobado por	[APROBADO POR]
Fecha de entrada en vigor	[FECHA]
Frecuencia de revisión	[FRECUENCIA DE REVISIÓN]

1. Objeto

1.1 Este programa establece cómo [NOMBRE DE LA ORGANIZACIÓN] planifica, ejecuta, reporta y da seguimiento a las auditorías de sus sistemas de IA, de los datos que usan, de los controles que los rodean y de los proveedores que los suministran.

1.2 Su finalidad es aportar una evaluación independiente, basada en evidencia, de si la gobernanza de IA diseñada funciona en la práctica y de si los sistemas se comportan como se espera para las personas afectadas.

2. Universo auditable

2.1 El universo auditable comprende:

a) el sistema de gobierno de IA: políticas, roles, comité, inventario, evaluación de riesgos, formación y mejora continua;
b) los sistemas de IA en producción, con prioridad para los que deciden o influyen sobre personas;
c) los conjuntos de datos de entrenamiento, validación y prueba, y los procesos de calidad de datos;
d) el monitoreo, la gestión de incidentes y los mecanismos de desactivación y reversión;
e) los mecanismos de transparencia, explicación, revisión humana y reclamación;
f) los proveedores de IA de los que dependen sistemas de nivel Alto y el cumplimiento de sus compromisos contractuales;
g) los sistemas en estado «Piloto» o en desarrollo que vayan a pasar a producción con nivel Alto.

2.2 La función de auditoría mantiene la lista del universo auditable conciliada con el inventario de sistemas de IA.