Human-in-the-loop
Los términos Human-in-the-loop (HITL) y Human-on-the-loop (HOTL) describen dos modelos de supervisión humana en sistemas de inteligencia artificial que difieren en el grado de autonomía del agente y en el tipo de intervención que realiza la persona. Ambos describen la posición de la persona en el ciclo de decisión de un sistema de IA.
Human-in-the-loop (HITL)
La persona está dentro del bucle: el sistema no puede completar una acción relevante sin aprobación explícita de un humano. La IA propone; el humano decide.
- El humano valida o rechaza cada paso crítico antes de que se ejecute.
- Mayor control y menor riesgo; mayor tiempo de ciclo.
Ejemplo: un agente de IA genera un pull request pero no lo fusiona hasta que un desarrollador lo revisa y aprueba.
Human-on-the-loop (HOTL)
La persona está sobre el bucle: el sistema opera autónomamente pero la persona monitoriza y puede intervenir si detecta un problema.
- La IA actúa dentro de límites predefinidos sin aprobación en cada paso.
- Mayor velocidad y escalabilidad; mayor riesgo si los límites no están bien definidos.
Ejemplo: un agente despliega automáticamente a staging pero alerta al equipo si las métricas de cobertura bajan del umbral.
Cuándo usar cada modelo
La elección depende de:
- Reversibilidad de las acciones: las acciones irreversibles (despliegues a producción, envío de comunicaciones, modificación de datos de clientes) requieren HITL.
- Coste del error: cuanto mayor sea el coste, más próximo al HITL debe estar el modelo.
- Madurez del agente: un agente nuevo empieza en HITL y puede evolucionar hacia HOTL a medida que gana confiabilidad demostrada.
En la DoD reforzada
La posición HITL/HOTL para cada tipo de acción del agente es parte de la gobernanza de IA del equipo. La DoD reforzada para equipos con IA incluye la definición explícita de qué acciones del agente requieren aprobación humana previa (HITL) y cuáles se ejecutan con supervisión posterior (HOTL).
Error frecuente
Empezar con HOTL antes de entender el comportamiento del agente. Un agente nuevo en un dominio nuevo debería comenzar siempre en modo HITL, acumulando historial de comportamiento antes de relajar la supervisión. Otorgar autonomía a un agente sin datos sobre su fiabilidad en el contexto específico es el origen de la mayoría de los incidentes con IA en equipos de desarrollo.
Recursos
🏦 IA aplicada al trabajo ágilSkill Arena · Scrum Manager
Véase también
¿Quieres avanzar en agilidad? Puedes buscar convocatorias de cursos y exámenes o ir a tu ritmo haciéndote miembro del Club Agile. Esta membresía incluye recursos exclusivos, aulas e-learning y acceso a Skill Arena: un espacio para practicar y medir tus habilidades ágiles a tu ritmo.