La IA en la sombra («Shadow AI») —la herramienta propia usada a escondidas, la cuenta personal, el código de la empresa saliendo sin control— no es un atajo inocente: quiebra el principio que Agile Bedrock denomina transparencia algorítmica. La transparencia clásica se ocupaba del estado del trabajo; ésta se ocupa de su procedencia: el equipo debe poder saber qué decisiones y producciones fueron humanas y cuáles asistidas, y qué guardarraíles y límites de autonomía rigen la asistencia. No se trata de entender el funcionamiento interno de la máquina, sino de poder inspeccionar el origen de lo que se produce, porque si no se puede inspeccionar de dónde viene una decisión, no hay empirismo posible sobre ella. La asistencia oculta deja al equipo sin saber de dónde viene lo que produce, y con ello le quita la base misma de la inspección y la adaptación.
¿Quieres seguir tirando del hilo? Este tema se desarrolla en Agile Bedrock.