En qué pasos debe intervenir una persona en un flujo con IA
Por Carlos Manzano · · IA e integraciones · 4 min de lectura
En este artículo
La intervención humana en un flujo de IA debe colocarse donde una decisión puede cambiar el resultado del negocio o afectar al cliente. Revisar todo al final puede llegar demasiado tarde si antes se ha enviado un mensaje, modificado un pedido o concedido acceso a información.
Descompón el recorrido en lectura, propuesta, decisión y ejecución. Para cada paso, pregunta qué puede salir mal, quién detectaría el error y si la acción puede deshacerse. Esa revisión permite ajustar el control al trabajo concreto, en lugar de añadir una aprobación genérica que nadie entiende.
Distingue preparar de actuar
Un borrador interno puede revisarse antes de utilizarse. Enviar ese borrador a un cliente introduce una acción externa. Calcular una propuesta de descuento y aplicarla a un pedido también son operaciones diferentes. El sistema debe mostrar claramente en qué fase se encuentra.
La guía de OWASP sobre exceso de autonomía identifica riesgos asociados a funciones y permisos innecesarios. Una forma práctica de reducirlos es dar al asistente capacidad de preparar una propuesta sin concederle automáticamente la de ejecutarla.
| Tarea | Consecuencia de un error | Control propuesto |
|---|---|---|
| Resumen interno | Contexto incompleto o distorsionado | Fuente visible y revisión antes de decidir |
| Borrador comercial | Condiciones mal expresadas | Aprobación de contenido y destinatario |
| Cambio de importe | Compromiso económico incorrecto | Responsable autorizado y límites definidos |
| Edición de un registro | Pérdida o alteración de información | Comparación de cambios y recuperación |
| Acceso a documentos | Exposición de información | Comprobación técnica previa por identidad |
| Acción repetida | Duplicados o comunicaciones múltiples | Identificación única y verificación del resultado |
Haz que la revisión permita decidir
Una pantalla que solo ofrece «aprobar» o «rechazar» puede ser insuficiente. Muestra datos de origen, cambios propuestos y consecuencias. Si se va a enviar un mensaje, la persona necesita ver destinatario y contenido. Si se actualiza un campo, debe poder comparar valor anterior y nuevo.
La revisión también debe permitir corregir o pedir información. Obligar a aprobar una propuesta completa cuando solo falta un detalle fomenta atajos. Diseña estados como «pendiente de aclaración» para conservar el trabajo sin ejecutar algo que todavía no está listo.
Define quién tiene autoridad
La persona que opera la herramienta no siempre puede aprobar descuentos, devoluciones o cambios de condiciones. Relaciona cada acción con el rol autorizado en el negocio. Si el responsable no está disponible, establece una alternativa o deja la operación pendiente.
Evita que una aprobación sea reutilizable para un contenido que cambió después. La decisión debe quedar vinculada a la versión revisada. Si la IA modifica importes o destinatarios tras la aprobación, el flujo necesita volver a comprobar el cambio correspondiente.
Ejemplo ficticio de un presupuesto
Una empresa utiliza IA para preparar un borrador de propuesta a partir de una reunión. Es un ejemplo ficticio. La herramienta puede ordenar necesidades y sugerir apartados, pero el alcance, el precio y la fecha se revisan con información autorizada.
El envío ocurre después de confirmar la versión final y el destinatario. Si el sistema detecta una diferencia entre la propuesta revisada y la que va a enviar, detiene ese paso. El control se sitúa antes del compromiso externo, donde todavía permite evitar una confusión.
Prueba excepciones y presión de trabajo
Simula una propuesta incompleta, una contradicción y una petición urgente. Comprueba si el equipo entiende por qué el sistema solicita revisión y si dispone de información suficiente. Un control demasiado frecuente o mal explicado puede terminar aprobándose sin lectura.
Mide correcciones, rechazos y decisiones devueltas por falta de datos. Si todas las propuestas requieren el mismo ajuste, corrige la entrada o la instrucción. La supervisión no debería convertirse en una reparación permanente de un flujo mal diseñado.
Conserva una forma de detener y recuperar
Asigna quién puede pausar el proceso y qué ocurre con las tareas pendientes. Si aparece un error sistemático, debe ser posible detener el tramo afectado sin perder el registro de lo que ya ocurrió. Después compara operaciones propuestas, aprobadas y ejecutadas.
La intervención humana aporta valor cuando modifica una decisión con criterio y evidencia. El objetivo es que las personas con responsabilidad conserven control en los momentos adecuados y que el sistema facilite ese trabajo.
Si necesitas aplicar este trabajo a tu empresa, puedes consultar el servicio de implantación de IA e integraciones o contarme tu situación y el objetivo que quieres conseguir.
Para seguir avanzando
Sigue explorando IA e integraciones
Artículos relacionados
