Lo práctico primero: si tu organización está escalando agentes IA sin mapear las conexiones entre ellos, no estás gestionando riesgos — estás postergándolos. Un agente individual es sencillo de auditar. Diez agentes que pueden llamarse mutuamente crean una explosión combinatoria de rutas de interacción, y la mayoría de las empresas no tienen a nadie cuyo trabajo sea cartografiar ese grafo.
Aquí está la matemática que importa. Agregar un segundo agente al sistema crea una nueva relación. Agregar el décimo genera potencialmente docenas de rutas de llamadas entre agentes, cada una capaz de desencadenar acciones adicionales aguas abajo. Un flujo de soporte que antes tocaba un único sistema podría ahora enrutarse a través de cuatro agentes antes de que un humano revise el resultado — y ninguno de esos traspases intermedios pudo haber pasado por un proceso de aprobación formal. La complejidad no escala linealmente con la cantidad de agentes; escala con el número de rutas entre ellos.
Dos modos de fallo aparecen consistentemente en despliegues empresariales. El primero es la expansión de permisos: un agente obtiene acceso amplio a APIs durante la construcción inicial porque el alcance adecuado habría costado otro sprint, y seis meses después ese mismo agente tiene una ruta hacia un sistema de pagos que nadie autorizó explícitamente. El segundo es la dilución de responsabilidad: cuando cinco agentes tocan un flujo único y algo falla en el paso cuatro, frecuentemente no hay un humano identificado responsable de ese eslabón específico de la cadena — porque el organigrama terminó en "desplegar el agente" y nunca se extendió a la responsabilidad continua.
Obtener la identidad del agente correcta es el punto de partida necesario. Cada agente debe existir como una entidad discreta con su propia identidad registrada, permisos explícitamente definidos, y un patrocinador humano nombrado que sea responsable de su comportamiento. Eso es lo fundamental. Pero no es suficiente por sí solo — un archivo lleno de agentes perfectamente documentados puede seguir operando dentro de un sistema que nadie puede explicar de extremo a extremo.
El requisito más difícil es la supervisión a nivel de cadena: la capacidad de rastrear qué hizo un agente, qué desencadenó aguas abajo, y dónde termina ese rastro de acciones — en tiempo real, no en una revisión trimestral. Más críticamente, la mayoría de los programas construyen monitoreo y se detienen ahí. El monitoreo te dice qué ya sucedió. La gobernanza significa poder detener una acción fuera de política antes de que se ejecute, no registrarla para que alguien la descubra tres semanas después. Las empresas serias sobre responsabilidad necesitan ambas capacidades, y la capa de enforcement es la que más comúnmente falta.
El objetivo no es ralentizar el despliegue de agentes — el costo de quedarse atrás es real. El objetivo es construir infraestructura de visibilidad y responsabilidad que escale junto con la flota, para que la respuesta a "¿qué está haciendo este sistema ahora mismo, y quién es responsable?" siempre esté disponible. Las empresas que resuelven la complejidad entre agentes son las que avanzan de pilotos perpetuos a sistemas en producción a escala. La complejidad es el cuello de botella; despéjalo, y los agentes autónomos dejan de ser un pasivo y comienzan a cumplir su verdadera promesa.