¿En qué se diferencia del human-in-the-loop?

Es la implementación concreta del principio human-in-the-loop: un punto de aprobación específico en un flujo antes de una acción sensible.

¿Las aprobaciones no lo ralentizan todo?

Solo si pones demasiadas puertas. Aplica puertas por riesgo: automatiza los pasos de bajo impacto y reserva la aprobación para acciones de alto impacto, irreversibles o reguladas.

¿Qué pasa en un timeout?

Define un respaldo seguro: retener la acción, escalar o cancelar. Nunca autoejecutes en silencio una acción con puerta solo porque nadie respondió.

Seguridad y supervisiónActualizado 2026-06-21 · Versión 1.0

Puerta de Aprobación Humana (Human Approval Gate)

Una puerta de aprobación humana pausa un flujo automatizado en un punto de control definido para que una persona revise, edite o rechace una acción propuesta antes de ejecutarse, sobre todo en operaciones de alto impacto, irreversibles o reguladas. Es la forma operativa de la supervisión humana en el bucle.

Evidencia: Observación del sectorConfianza: AltaFuente: Observación del sectorFuente: Paper

Legible por máquina: JSON

Problema

Dejar que un sistema de IA ejecute acciones de alto impacto de forma autónoma arriesga errores costosos, irreversibles o no conformes sin posibilidad de juicio humano.

Cuándo usarlo

Usa una puerta de aprobación para acciones cuyo coste de error supera la latencia de la revisión: pagos, borrados, comunicaciones externas, cambios en producción o cualquier cosa regulada.

Solución

Inserta un punto de control antes de la acción sensible: el sistema prepara la acción propuesta con suficiente contexto, luego se suspende y la enruta a un humano que aprueba, edita o rechaza. Con la aprobación, procede; ante un timeout, recurre a un respaldo seguro. Cada decisión se registra para auditoría.

Pon puertas solo en los pasos de alto impacto, no en todo: el exceso de puertas destruye el valor de la automatización y causa fatiga de aprobación. Elige los puntos de control por riesgo.

Componentes

Punto de control basado en riesgoVista previa de la acción propuestaAprobar / editar / rechazarTimeout y respaldo seguroRegistro de auditoría

Beneficios

Previene errores costosos o irreversibles.
Mantiene la responsabilidad en un humano.
Satisface requisitos de cumplimiento y supervisión.
Genera confianza, habilitando una autonomía gradual.

Riesgos

Añade latencia y limita el rendimiento.
Aprobación automática si los revisores carecen de contexto o tiempo.
Fatiga de aprobación por demasiadas puertas.
Cuellos de botella si los revisores no están disponibles.

Cuándo no usarlo

Para acciones de bajo impacto y fácilmente reversibles.
Cuando el rendimiento debe ser alto y el riesgo es bajo.
Cuando un guardarraíl determinista puede autoaprobar con seguridad.

Tecnologías

LangGraph (interrupts)Workflow / approval systemsAudit logging

Ejemplos

Un agente que redacta un reembolso que un humano aprueba antes de emitirse.
Un cambio en producción que se pausa para una firma antes de desplegar.
Un correo saliente en cola para revisión antes de enviarse.

KPIs

Latencia de aprobación: Tiempo que una acción espera en la puerta; el coste central del patrón y lo primero a vigilar por cuellos de botella.
Tasa de rechazo / edición: Proporción de propuestas que un humano rechaza o edita; casi cero suele indicar aprobación automática, muy alta, falta de confianza en el agente.
Rendimiento vs. pasos con puerta: Tareas completadas por hora frente a cuántos pasos tienen puerta; el exceso de puertas hunde el rendimiento.
Tasa de timeout / respaldo: Con qué frecuencia las acciones llegan al timeout y toman el respaldo seguro; si sube, los revisores están saturados.

Modos de fallo observados

Aprobación automática: los revisores aprueban sin escrutinio real cuando faltan contexto o tiempo, anulando la puerta.
Fatiga de aprobación y cuellos de botella por poner puertas en pasos de bajo impacto.
Autoejecución silenciosa en el timeout cuando no se define un respaldo seguro.
Contexto insuficiente en la propuesta, de modo que el humano no puede decidir con criterio.

Lecciones aprendidas

Pon puertas por riesgo, no por defecto: automatiza lo de bajo impacto y reserva las puertas para acciones irreversibles o reguladas.
Da a los revisores contexto suficiente y una elección clara aprobar/editar/rechazar para evitar la aprobación automática.
Define siempre un respaldo seguro en el timeout; nunca ejecutes en silencio una acción con puerta.
Registra cada decisión para auditoría: la puerta es también tu evidencia de cumplimiento.

FAQs

¿En qué se diferencia del human-in-the-loop?: Es la implementación concreta del principio human-in-the-loop: un punto de aprobación específico en un flujo antes de una acción sensible.
¿Las aprobaciones no lo ralentizan todo?: Solo si pones demasiadas puertas. Aplica puertas por riesgo: automatiza los pasos de bajo impacto y reserva la aprobación para acciones de alto impacto, irreversibles o reguladas.
¿Qué pasa en un timeout?: Define un respaldo seguro: retener la acción, escalar o cancelar. Nunca autoejecutes en silencio una acción con puerta solo porque nadie respondió.