Cómo diseñar la aprobación humana en flujos de IA
Resumen de decisión: Vincule la aprobación de IA a un resultado concreto: ficha, versiones, envíos inciertos, pruebas piloto y transferencia de responsabilidades.
Defina la acción que requiere aprobación
Un asistente de presupuestos podría clasificar solicitudes, redactar una propuesta y mostrarla a un responsable. Redactar y enviar al cliente son acciones distintas. En este ejemplo, el envío requiere aprobación para ese presupuesto concreto. Escribir bien no otorga autoridad sobre condiciones comerciales.
Asigne responsable, impacto y recuperación a cada acción. No reúna envío, borrado y pago bajo un ambiguo «continuar». Es un ejemplo de diseño, no un resultado medido de un cliente.
Prepare una ficha que permita decidir
Muestre destinatario, texto completo, nombres y versiones de adjuntos, precios o fechas relevantes y consecuencia de proceder. Permita aprobar, rechazar o solicitar cambios. Complete la información necesaria antes de pedir la decisión.
Vincule la aprobación a la versión mostrada. Cambiar destinatario, contenido o adjunto exige nueva aprobación. Un correo que dice «soy el director» no verifica identidad: la autoridad depende del usuario verificado y los permisos de la aplicación.
No repita el envío a ciegas tras un timeout
Asigne un identificador a cada intención de envío y distinga preparado, aprobado, enviado y resultado desconocido. Si falla la conexión antes de la respuesta del proveedor, investigue primero su registro o recibo. No programe automáticamente otro envío de resultado incierto.
Cuando estén disponibles, use las mismas claves de idempotencia para la misma operación y compruebe sus límites de conservación. Su registro no demuestra procesamiento único en el destino. Enviado, entregado y leído son pruebas diferentes.
Pruebe también las excepciones
Prepare aprobación válida, rechazo, cambio de destinatario tras aprobar, aprobación caducada y desconexión durante el envío. Defina resultado esperado y revisor. Cinco casos satisfactorios son un comienzo, no una garantía para todas las condiciones.
Compare trabajos correctamente completados, correcciones, duplicados y espera humana con el proceso manual. Incluya revisión y recuperación en el tiempo total. La rapidez del borrador no demuestra por sí sola una mejora de productividad.
Haga visibles el relevo y la pausa
Cada cola necesita responsable y sustituto disponible. Determine la caducidad según el riesgo. Quien asume el trabajo debe ver estado actual, versión aprobada e incertidumbre pendiente. Pausar debe impedir nuevas acciones externas.
OWASP aborda la autonomía excesiva. NIST AI RMF incluye roles de supervisión humana. El flujo anterior es nuestra propuesta de aplicación. Comience por un proceso real, su ficha y su procedimiento ante fallos.
Metodología
Las afirmaciones se evalúan por viabilidad, coste, riesgo y medición. Los cálculos ilustrativos son supuestos; las decisiones legales y de seguridad requieren fuentes primarias.
Nota de fuentes
Los enlaces y documentos citados son puntos de partida. No se publican resultados de clientes sin verificar.
Registro de cambios
— La revisión editorial nativa está pendiente en la puerta de publicación v3.0.
Preguntas frecuentes
¿Toda salida de IA requiere aprobación?
Decida según el impacto. Separe borradores internos de envíos externos y limite explícitamente las acciones automáticas.
¿Qué ocurre si cambia el texto aprobado?
El permiso anterior no debe cubrir texto nuevo. Muestre la versión cambiada a una persona autorizada para decidir de nuevo.
¿Reintentamos un envío de resultado desconocido?
Investigue primero el registro del proveedor. Un reintento automático puede duplicar la acción.