El error de categoría
Muchos sistemas agentic mezclan dos capacidades distintas. La primera es cognición: interpretar contexto, evaluar opciones, generar un plan y explicar una decisión. La segunda es autoridad: el derecho de cambiar un sistema, comprometer a la organización, notificar a un cliente, aprobar una excepción o mover dinero.
Los LLMs son útiles porque mejoran la cognición. Pero la autoridad operativa no es una tarea lingüística. Es un control de negocio. Depende de política, rol, sistema, consecuencia, tiempo y evidencia.
Confianza no es permiso
Un modelo puede estar muy confiado y aun así no tener autoridad. Un agente de soporte puede identificar correctamente que un reembolso corresponde, pero el monto puede exceder el umbral. Un asistente contractual puede redactar la cláusula correcta, pero la revisión legal puede seguir siendo obligatoria.
Esto no es una falla de IA. Es cómo operan las organizaciones. Personas con buen juicio no siempre tienen permiso para ejecutar. Analistas recomiendan cambios que no pueden aprobar. Gerentes aprueban algunas acciones y otras no.
Mientras más fuerte se vuelve el modelo, más importante se vuelve la frontera de autoridad.
La frontera de enforcement
La frontera debe estar entre intención y ejecución. El modelo propone una acción. Una capa de política evalúa clase de acción, sistema tocado, impacto y escalamiento requerido. Solo después ocurre la ejecución. Si la acción excede autoridad, se enruta al humano correcto o se bloquea por defecto.
Eso es distinto a logging. Los logs dicen qué pasó. Los controles de autoridad deciden qué puede pasar. Ambos importan, pero no son intercambiables.
Qué cambia en el despliegue
Separar razonamiento y autoridad vuelve más fácil hablar con dirección. La conversación deja de ser confianza vaga en IA y se vuelve una serie de preguntas operativas: qué puede redactar, qué puede actualizar, qué puede aprobar, qué debe escalar y qué está restringido.
Esta es la base práctica de autonomía controlada: conservar el valor del razonamiento sin convertir cada output del modelo en poder operativo.