Procedimiento de revisión de decisiones automatizadas

Cómo usar este documento

• Para qué sirve. Es un procedimiento base para atender las solicitudes de explicación, revisión humana e impugnación de decisiones tomadas total o parcialmente por sistemas de IA, y para revisar de oficio esas decisiones cuando hay indicios de error. Fija gatillos, responsables, pasos, plazos, contenido de la respuesta y registros.
• Quién debe ser su dueño. Normalmente Legal, con los dueños de los sistemas como responsables de ejecutar las revisiones y el Delegado de protección de datos (o el rol equivalente del país) como responsable de su relación con los derechos de protección de datos. Indique el área en [ÁREA RESPONSABLE] y la persona en [RESPONSABLE].
• Relación con otros documentos. Este procedimiento es el lugar donde se tramitan la revisión humana, la impugnación, la oposición y la exclusión. El catálogo de derechos que se comunica a las personas está en el «Anexo de derechos de las personas frente a la IA»; las solicitudes que solo piden una explicación se atienden con el circuito de la «Política de transparencia y explicación al usuario» y pasan aquí cuando la persona pide además una revisión.
• Decisiones previas. Antes de adoptarlo, identifique qué decisiones quedan cubiertas (sección 4), quién revisa cada tipo de decisión y con qué autoridad (sección 10), qué plazos internos fija (sección 13) y si se suspenden los efectos de la decisión mientras se revisa (sección 8).
• Campos a completar. Sustituya los textos entre corchetes, como [NOMBRE DE LA ORGANIZACIÓN], [EMAIL DE PRIVACIDAD], [FRECUENCIA DE REVISIÓN] y [COMPLETAR], y complete la tabla de la sección 4. Conserve las cláusulas marcadas [OPCIONAL] solo si aplican.
• Variantes por país. Conserve la variante de cada país donde tome decisiones automatizadas sobre personas y elimine las demás. Las variantes indican qué derecho existe, qué debe contener la respuesta, la autoridad competente y los plazos cuando la ley los fija.
• Revisión. Pida a su asesoría jurídica que confirme las bases que permiten decisiones solo automatizadas en su caso, los plazos aplicables y el texto del modelo de resolución. En el ámbito laboral, consulte a la representación de las personas trabajadoras cuando la ley lo exija.
• Aprobación y publicación. Haga que lo apruebe [COMITÉ DE IA] o la dirección, registre la aprobación en «Control de versiones», forme a los revisores y a atención al cliente, y enlace el canal de solicitudes desde los avisos de privacidad y de IA.

Procedimiento de revisión de decisiones automatizadas

Campo	Valor
Organización	[RAZÓN SOCIAL]
Área propietaria	[ÁREA RESPONSABLE]
Responsable del procedimiento	[RESPONSABLE]
Canal de solicitudes	[EMAIL DE PRIVACIDAD] y [COMPLETAR: formulario web u otro canal]
Aprobado por	[APROBADO POR]
Fecha de entrada en vigor	[FECHA]
Frecuencia de revisión	[FRECUENCIA DE REVISIÓN]

1. Objeto

1.1 Este procedimiento establece cómo [NOMBRE DE LA ORGANIZACIÓN] atiende las solicitudes de las personas que quieren entender, discutir o impugnar una decisión tomada total o parcialmente por un sistema automatizado, y cómo revisa de oficio esas decisiones.

1.2 Su objetivo es que la revisión sea real: hecha por una persona competente, con acceso a la información relevante y con autoridad para confirmar, corregir o revocar la decisión, y que quede documentada.

2. Alcance

2.1 Se aplica a las decisiones sobre personas físicas que:

a) se basan solo en un tratamiento automatizado, incluida la elaboración de perfiles, y producen efectos jurídicos o afectan de forma similarmente significativa a la persona; o
b) se toman con apoyo de un sistema de IA cuyo resultado determina en la práctica la decisión, porque la persona que decide lo adopta sin una valoración propia.

2.2 Ejemplos: concesión o denegación de crédito o seguros, fijación de precios o condiciones individualizadas, selección, promoción o despido de personas, asignación de tareas o turnos, restricción, suspensión o cierre de cuentas, detección de fraude que bloquea un servicio, y acceso a prestaciones, educación o servicios esenciales.

2.3 Una puntuación o clasificación elaborada por un tercero que determina de forma decisiva la decisión de [NOMBRE DE LA ORGANIZACIÓN] queda incluida.

2.4 No se aplica a recomendaciones que una persona revisa de forma efectiva y con capacidad real de apartarse de ellas, aunque la organización puede extender este procedimiento a esos casos de forma voluntaria.