Plan de monitoreo de IA en producción

Cómo usar este documento

• Para qué sirve. Es un plan base para vigilar un sistema de IA una vez que está en producción: qué se mide, con qué frecuencia, con qué umbrales, quién revisa y qué se hace cuando algo se desvía. Cubre rendimiento, deriva de datos, equidad, operación, comportamiento de la IA generativa, supervisión humana, quejas, incidentes y cambios del proveedor.
• Quién debe ser su dueño. El dueño de cada sistema, con su equipo técnico (operaciones de IA o datos), bajo la coordinación del responsable de IA. Indique el área en [ÁREA RESPONSABLE] y la persona en [RESPONSABLE].
• Decisiones previas. Decida si tendrá un plan por sistema o un plan común con una ficha por sistema (sección 2), la intensidad de monitoreo de cada sistema según su nivel de riesgo (sección 3), los indicadores y umbrales (sección 4) y cuánto tiempo conservará los registros (sección 6).
• Campos a completar. Complete la ficha del sistema y el catálogo de indicadores (ayuda B) con valores concretos. Un indicador sin umbral y sin acción asociada no sirve: elimínelo o complételo. Conserve las cláusulas [OPCIONAL] solo si aplican.
• Variantes por país. Este plan no tiene variantes por país. Si el sistema puede ser de alto riesgo, es un producto sanitario o pertenece a un sector regulado (financiero, salud), conserve la sección 12 y complétela con las normas aplicables que aparecen en «Referencias normativas relacionadas».
• Revisión. Pida al equipo técnico que valide que los indicadores se pueden medir con las herramientas disponibles, y a legal y al delegado de protección de datos que validen los umbrales de equidad, las obligaciones sectoriales y el paso obligatorio de comunicación de incidentes graves (sección 5.5).
• Aprobación y publicación. Haga que lo apruebe el dueño del sistema y, para sistemas de riesgo Alto, [COMITÉ DE IA]. Registre la aprobación en «Control de versiones» y compártalo con quienes operan y supervisan el sistema.

Plan de monitoreo de IA en producción

Campo	Valor
Organización	[RAZÓN SOCIAL]
Área propietaria	[ÁREA RESPONSABLE]
Responsable del plan	[RESPONSABLE]
Sistema o sistemas cubiertos	[SISTEMA DE IA]
Aprobado por	[APROBADO POR]
Fecha de entrada en vigor	[FECHA]
Frecuencia de revisión del plan	[FRECUENCIA DE REVISIÓN]

1. Propósito y alcance

1.1 Este plan establece cómo [NOMBRE DE LA ORGANIZACIÓN] vigila el funcionamiento de sus sistemas de IA en producción para detectar a tiempo pérdidas de rendimiento, deriva, sesgos, fallas operativas, comportamientos inesperados y efectos no deseados sobre las personas, y para actuar antes de que causen daño.

1.2 Se aplica a todos los sistemas de IA en producción registrados en el «Inventario de sistemas de IA», incluidos los modelos propios, los modelos de proveedores integrados mediante API y las herramientas de IA de terceros usadas en procesos de negocio. La intensidad del monitoreo depende del nivel de riesgo del sistema (sección 3).

1.3 El monitoreo empieza el día de la puesta en producción y dura hasta la retirada del sistema.

2. Ficha del sistema monitoreado

Cada sistema cubierto tiene esta ficha:

Campo	Contenido
Sistema y versión en producción	[SISTEMA DE IA], versión [COMPLETAR]
Proveedor y modelo subyacente	[PROVEEDOR], [COMPLETAR]
Finalidad y uso previsto	[COMPLETAR]
Personas afectadas	[COMPLETAR: clientes, personas trabajadoras, candidatos, pacientes, público]
Nivel de riesgo y carril (según el «Inventario de sistemas de IA»)	Bajo (Verde) / Medio (Amarillo) / Alto (Rojo)
Perfil de despliegue (P1 a P5)	[COMPLETAR]
Línea base de rendimiento (resultados de validación)	[COMPLETAR: métricas y valores de referencia]
Grupos relevantes para el análisis de equidad	[COMPLETAR]
Dueño del sistema	[RESPONSABLE]
Responsable técnico (equipo del dueño del sistema)	[COMPLETAR]
Supervisores humanos designados	[COMPLETAR]
Estado seguro y procedimiento de reversión	[COMPLETAR: referencia al «Protocolo de reversión y estado seguro de IA»]
Herramientas de monitoreo y paneles	[COMPLETAR]
Fecha de puesta en producción	[FECHA]