Gobernanza de IA
La gobernanza de IA (AI governance en inglés) es el conjunto de políticas, procesos y mecanismos de supervisión que determinan cómo un equipo u organización usa, controla y rinde cuentas del uso de herramientas de inteligencia artificial. Define qué puede hacer la IA de forma autónoma, en qué condiciones, con qué recursos, y quién es responsable de su output.
A medida que los equipos ágiles incorporan agentes de IA en sus flujos de trabajo, la gobernanza deja de ser una cuestión abstracta de políticas corporativas para convertirse en una práctica operativa del día a día del equipo.
Dimensiones de la gobernanza de IA
Políticas de uso
Definen qué herramientas de IA puede usar el equipo, para qué tipos de tarea y con qué restricciones. Incluyen:
- Qué datos pueden proporcionarse a un modelo externo (especialmente relevante con datos de clientes o información confidencial).
- Qué tareas pueden delegarse a agentes autónomos y cuáles requieren intervención humana (HITL/HOTL).
- Qué modelos o servicios de IA están autorizados.
Límites de autonomía
Establecen el modelo HITL/HOTL para cada tipo de acción agéntica: qué acciones requieren aprobación humana previa, cuáles pueden ejecutarse automáticamente con notificación posterior, y cuáles están prohibidas a agentes.
Auditoría de outputs
Procesos para revisar y registrar el output de los agentes de IA, especialmente en tareas críticas. Incluye:
- Registros de qué agente ejecutó qué acción y con qué instrucciones.
- Revisiones periódicas de la calidad de los outputs de IA en producción.
- Mecanismos para detectar y corregir alucinaciones o comportamientos inesperados.
Rendición de cuentas
Define claramente quién es responsable del output de la IA. En el marco de Scrum con IA, la guía de Scrum Manager señala que el product builder es responsable de validar el código generado por IA antes de que se integre, independientemente de quién (o qué) lo produjo.
El rol del Agile Enabler
El agile enabler (evolución del Scrum Master en equipos con IA) es responsable de la gobernanza de IA en el equipo: diseña y mantiene las políticas, facilita las conversaciones sobre límites y riesgos, y asegura que el equipo rinde cuentas de su uso de IA de forma transparente.
Error frecuente
Esperar a tener incidentes para definir la gobernanza. La gobernanza de IA es más efectiva y menos costosa cuando se diseña de forma preventiva, antes de que los agentes estén en producción. Un equipo que empieza a usar agentes autónomos sin políticas claras de autonomía, datos y rendición de cuentas no está "siendo ágil": está acumulando riesgo operativo y regulatorio que eventualmente producirá un incidente.
Recursos
🏦 IA aplicada al trabajo ágilSkill Arena · Scrum Manager
📄 Scrum Master en equipos con IADescarga gratuita · Scrum Manager
Véase también
¿Quieres avanzar en agilidad? Puedes buscar convocatorias de cursos y exámenes o ir a tu ritmo haciéndote miembro del Club Agile. Esta membresía incluye recursos exclusivos, aulas e-learning y acceso a Skill Arena: un espacio para practicar y medir tus habilidades ágiles a tu ritmo.