Política de mitigación de riesgos algorítmicos y sesgos

Cómo usar este documento

• Para qué sirve. Es una política base que fija los controles para prevenir, detectar y corregir sesgos, errores y otros daños de los modelos y sistemas de IA a lo largo de su ciclo de vida: cómo se plantea el problema, qué datos se usan, qué pruebas se hacen antes de desplegar, qué umbrales activan una respuesta y qué se hace cuando se supera uno.
• Quién debe ser su dueño. Normalmente el responsable de IA, con los dueños de los sistemas y sus equipos técnicos o de ciencia de datos. Indique el área en [ÁREA RESPONSABLE] y la persona en [RESPONSABLE]. El comité de IA aprueba los umbrales y decide sobre los casos graves.
• Decisiones previas. Antes de adoptarla, decida: qué sistemas quedan en cada nivel de control (sección 5); qué métricas de equidad y umbrales usará por tipo de sistema (sección 7 y ayudas E y G); cómo tratará legalmente los datos de características protegidas necesarios para medir sesgo (sección 8), y cuándo exigirá una revisión independiente (sección 13).
• Campos a completar. Sustituya los textos entre corchetes, en especial los umbrales marcados con [COMPLETAR]. Los valores de ejemplo son orientativos: ajústelos al contexto, al volumen de datos y a la normativa de cada uso.
• Relación con otros documentos. Esta política fija los controles; el procedimiento de gestión de riesgos de IA fija cómo se registran y tratan todos los riesgos, el informe de auditoría de sesgo documenta cada prueba, el plan de monitoreo de IA en producción detalla la vigilancia y la tarjeta de modelo recoge la documentación.
• Variantes por país. No tiene variantes por país. Algunas leyes exigen pruebas, auditorías o evaluaciones concretas para ciertos usos (por ejemplo, selección de personal, crédito o seguros); use «Referencias normativas relacionadas» para identificarlas y la política específica del uso cuando exista.
• Revisión. Pida a legal y privacidad que validen la sección 8 y los umbrales de los usos de alto impacto, y al responsable de IA que la conecte con el registro de riesgos del «Procedimiento de gestión de riesgos de IA».
• Aprobación y publicación. Haga que la apruebe el comité de IA, registre la aprobación en «Control de versiones» y comuníquela a los equipos que desarrollan, compran u operan modelos que afectan a personas.

Política de mitigación de riesgos algorítmicos y sesgos

Campo	Valor
Organización	[RAZÓN SOCIAL]
Área propietaria	[ÁREA RESPONSABLE]
Responsable de la política	[RESPONSABLE]
Aprobada por	[APROBADO POR]
Fecha de entrada en vigor	[FECHA]
Frecuencia de revisión	[FRECUENCIA DE REVISIÓN]
Contacto	[EMAIL DE GOBERNANZA DE IA]

1. Propósito

1.1 Los sistemas de IA aprenden de datos y reglas que pueden contener errores, desequilibrios o reflejar discriminaciones del pasado. También pueden degradarse con el tiempo, fallar ante situaciones nuevas o ser manipulados. Cuando esos sistemas influyen en decisiones sobre personas, el resultado puede ser un trato injusto, la pérdida de oportunidades o daños difíciles de revertir.

1.2 Esta política establece los controles con los que [NOMBRE DE LA ORGANIZACIÓN] identifica, mide, trata y vigila los riesgos algorítmicos, en especial el sesgo, durante todo el ciclo de vida de sus sistemas de IA, y cómo actúa cuando detecta un problema.

2. Alcance

2.1 Esta política aplica a los sistemas de IA desarrollados, ajustados, comprados o integrados por la organización que:

a) toman o apoyan decisiones sobre personas, como selección y gestión de personal, crédito, seguros, precios personalizados, elegibilidad para servicios, detección de fraude, atención sanitaria o educación;
b) clasifican, puntúan, ordenan o recomiendan contenidos, productos u oportunidades a personas;
c) generan contenido que se entrega a clientes o se publica;
d) operan en procesos críticos para la organización.

2.2 Aplica a todo el personal, contratistas y proveedores que diseñan, desarrollan, validan, despliegan, operan o supervisan estos sistemas.

2.3 Esta política complementa la «Política de uso responsable de IA (incluida la IA generativa)», el «Procedimiento de gestión de riesgos de IA» y, cuando exista, la «Política de riesgo de modelo e inventario de modelos». Los riesgos de sesgo y error que se identifican al aplicarla se registran en el registro de riesgos de ese procedimiento, y su aceptación sigue el apetito de riesgo de la «Declaración de apetito de riesgo de IA».