Manual de contingencias ante fallas de IA

Cómo usar este documento

• Para qué sirve. Es un manual operativo base para actuar en los primeros minutos y horas cuando falla un servicio de IA del que dependen procesos de la organización: caída del proveedor, degradación del modelo, salidas dañinas, exposición o pérdida de datos, ataques, cambios no anunciados y consumo descontrolado. Indica qué hacer, en qué orden, con qué alternativa manual y en cuánto tiempo recuperar el servicio.
• Quién debe ser su dueño. Normalmente operaciones o el equipo de fiabilidad (SRE), con los dueños de los procesos que dependen de la IA. Indique el área en [ÁREA RESPONSABLE] y la persona en [RESPONSABLE].
• Decisiones previas. Decida los objetivos de recuperación de cada sistema (ayuda B), las alternativas manuales de cada proceso (sección 7), quién activa el manual (sección 4) y cómo se relaciona con su plan de continuidad del negocio y su plan de respuesta a incidentes (sección 1.2).
• Campos a completar. Sustituya los textos entre corchetes y complete la tabla de objetivos de recuperación y el directorio de contactos. Conserve las cláusulas [OPCIONAL] solo si aplican.
• Variantes por país. Este manual no tiene variantes por país. Los plazos para comunicar incidentes de ciberseguridad o brechas de datos a autoridades varían según el país y el sector: no los fije aquí; se gestionan en el plan de respuesta a incidentes, con las normas de «Referencias normativas relacionadas».
• Revisión. Pida a los equipos técnicos que validen los pasos de cada escenario y a los dueños de los sistemas que confirmen que las alternativas manuales son viables con el personal disponible.
• Aprobación y publicación. Haga que lo apruebe la dirección de operaciones o de tecnología, registre la aprobación en «Control de versiones», téngalo accesible también fuera de los sistemas habituales (copia impresa o en otro repositorio) y pruébelo con un ejercicio.

Manual de contingencias ante fallas de IA

Campo	Valor
Organización	[RAZÓN SOCIAL]
Área propietaria	[ÁREA RESPONSABLE]
Responsable del manual	[RESPONSABLE]
Aprobado por	[APROBADO POR]
Fecha de entrada en vigor	[FECHA]
Frecuencia de revisión	[FRECUENCIA DE REVISIÓN]
Canal de activación	[COMPLETAR: canal de guardia, teléfono] y [EMAIL DE GOBERNANZA DE IA]
Ubicación de la copia alternativa	[COMPLETAR]

1. Propósito y relación con otros planes

1.1 Este manual establece la secuencia operativa con la que [NOMBRE DE LA ORGANIZACIÓN] responde a fallas de sus sistemas de IA en producción cuando el tiempo importa más que el análisis exhaustivo: contener, mantener la operación con alternativas, estabilizar y coordinar.

1.2 Se aplica junto con:

• el «Plan de respuesta a incidentes de IA», que gobierna la clasificación, la investigación, las notificaciones a autoridades y personas afectadas y las lecciones aprendidas, y cuyo registro es el registro único de incidentes;
• el «Protocolo de reversión y estado seguro de IA», que define cómo degradar, revertir o desactivar cada sistema;
• el plan de continuidad del negocio, del que este manual es un anexo para los servicios que dependen de IA;
• el «Plan de monitoreo de IA en producción», que proporciona las alertas que suelen activar este manual.

1.3 Este manual cubre solo la secuencia operativa y las alternativas sin IA. No repite los pasos técnicos de reversión (están en el protocolo de reversión) ni las reglas de clasificación, investigación y notificación (están en el plan de respuesta a incidentes).

2. Alcance y escenarios

2.1 Se aplica a los sistemas de IA en producción que sostienen procesos de negocio o servicios a clientes, propios o de proveedores.

2.2 Escenarios cubiertos:

N.º	Escenario	Ejemplos
E1	Caída o degradación del proveedor o de la API	El servicio no responde, responde con errores o con latencias inaceptables; cuota agotada
E2	Degradación del modelo	Caída de la exactitud, deriva, aumento de errores o de información inventada
E3	Salidas dañinas o inapropiadas	Respuestas ofensivas, peligrosas, discriminatorias o falsas que llegan a personas
E4	Exposición o pérdida de datos	El sistema revela datos personales o confidenciales; pérdida de un índice, de registros o de datos de referencia
E5	Ataque o uso indebido	Inyección de instrucciones, agente que ejecuta acciones no autorizadas, abuso del servicio
E6	Cambio no anunciado del proveedor	Nueva versión del modelo que altera resultados; cambio de condiciones o de ubicación de los datos
E7	Consumo o costo descontrolado	Bucle de un agente, picos de uso, facturación anómala
E8	Falla o compromiso de un modelo autoalojado	Servidor de inferencia caído o saturado; hash de los pesos distinto del aprobado; aviso de seguridad del servidor de inferencia o del modelo de origen; punto de acceso expuesto sin autenticación