¿Cómo gobernar agentes de IA en una empresa? Permisos, evaluaciones y dueños

Gobernar un agente es decidir qué autoridad tiene y qué evidencia necesita para ganar más. Cada agente necesita un dueño con nombre y apellido, un nivel de permiso escrito (leer, redactar, recomendar, actuar con aprobación, escribir dentro de límites u operar solo), un set de pruebas con casos reales y una forma de bajarle autoridad cuando falla.

¿Por qué fallan los proyectos de IA en las empresas?

Dónde se rompe

Casi nunca se rompe en la demo que falla. Se rompe en la demo que sale bien. Alguien ve un borrador útil y dice "listo, a producción". Ahí el agente pasa de sugerir una respuesta a enviarla, de recomendar un cambio en el CRM a hacerlo, y nadie decidió ese salto.

El modelo sabe hacer la tarea. Lo que falta es que la empresa sepa qué le dejó hacer.

Los niveles de autoridad

Un agente sube de nivel cuando deja evidencia suficiente, por emocionado que esté el equipo.

  1. Lectura. Ve una fuente autorizada. No responde ni cambia nada.
  2. Borrador. Redacta o resume. Una persona revisa antes de enviar, publicar o cerrar.
  3. Recomendación. Propone una decisión. No la ejecuta.
  4. Acción con aprobación. Hace algo después de que alguien aprueba, y deja registro, responsable y forma de deshacerlo.
  5. Escritura acotada. Toca un sistema real, pero solo dentro de límites definidos.
  6. Operación recurrente. Trabaja solo, con muestreo, alertas y revisión periódica.

Comparar tres cotizaciones, recomendar una y comprometer la compra son tres niveles distintos. Escríbelo así para cada agente.

Las cuatro cosas que tiene que tener cada agente

  • Dueño. Alguien del área que vive el flujo, que puede decir corrige, sigue o apágalo. Si "el humano en el loop" no tiene nombre, lo que hay es alguien que va a cargar con la culpa.
  • Permisos. Qué fuentes lee, qué puede escribir, cuánto puede gastar y cuándo tiene que escalar. Si solo lee, cuidas fuentes, vigencia y trazabilidad. Si actúa, cuidas consecuencias, aprobaciones, reversión y monitoreo.
  • Evaluaciones. Ejemplos buenos y ejemplos rechazados, una regla de qué se acepta y un umbral. Se corren antes de cada cambio y se muestrean en producción. Sin umbral, lo que queda es esperanza.
  • Trazas. Qué hizo, con qué fuente, quién aprobó. Sin eso no puedes corregir ni subir de nivel.

Qué hacer, en orden

  1. Haz la lista de agentes y automatizaciones que ya existen, incluidos los que la gente armó por su cuenta. Si la empresa no da rutas aprobadas, la IA entra por la puerta de atrás.
  2. Ponle a cada uno un dueño y un nivel de autoridad. Empieza bajo.
  3. Arma el set de pruebas con casos reales, excepciones incluidas.
  4. Define qué evidencia hace falta para subir al siguiente nivel y quién lo decide.
  5. Define cómo se baja de nivel o se apaga, y pruébalo una vez antes de necesitarlo.
  6. Revisa en una fecha fija. Lo que aprendas va a las instrucciones del agente, no a la memoria de alguien.

Las skills y paquetes de instrucciones que le instalas a un agente también le dan autoridad. Revísalas igual: cuándo se activan, qué tocan y cómo se quitan.

Un ejemplo

Para un equipo de liderazgo armamos un agente que consulta decisiones, riesgos y seguimientos de junta. Tiene límites de permisos y verificación para el material sensible. Quedaron por fuera, a propósito, el acceso abierto a documentos confidenciales y cualquier compromiso a nombre del liderazgo. Más detalle en el caso del Agente de Junta Directiva.

En una compañía colombiana de alimentos que reemplazó su agencia de mercadeo por una operación con agentes, el diseño tuvo tres roles claros y dejó por fuera la publicación sin aprobación. Ver el caso.

Cuándo te ayuda Business Cyborgs y cuándo no

Si vas a darle a un agente acceso de escritura, autoridad de gasto o control sobre algo que llega a clientes, primero mapeamos qué puede hacer y quién responde. Para un flujo lo hacemos dentro de un Sprint de Agente: un problema, un flujo, de 2 a 4 semanas, proyectos desde USD 5.000, y entregamos recomendaciones de permisos y responsables. Para varios flujos con datos dispersos, en una Transformación.

No es para ti si buscas autonomía sin límites o si no hay nadie adentro dispuesto a responder por el resultado.

Cuando el agente de IA entrega algo convincente y igual toca rehacerlo, corrige la fuente, la regla o el control que lo dejó pasar.

Mapa de Jurisdicción · Plano de Control de Agentes · Sprint de Agente · Habla con un Business Cyborg

Preguntas frecuentes

¿Quién debe ser el dueño de un agente de IA?

Alguien del área que usa el resultado y puede decidir corregir, seguir o apagar. No el equipo que lo construyó ni el proveedor.

¿Qué permisos le doy a un agente al empezar?

Lectura o borrador. Sube un nivel solo cuando las pruebas y el muestreo muestren que lo merece.

¿Cómo se evalúa un agente de IA?

Con casos reales, ejemplos buenos y rechazados, una regla de aceptación y un umbral. Se corre antes de cada cambio y se revisa una muestra de lo que hace en producción.

¿Basta con poner un humano en el loop?

Solo si ese humano tiene nombre, sabe qué está aprobando y tiene criterios para rechazar. Si no, la revisión es de nombre.

¿Qué hago con los agentes que la gente ya armó por su cuenta?

Inventariarlos y darles una ruta aprobada. Prohibirlos sin dar alternativa los manda más lejos.

Para leer más: BC 42: No confundamos capacidad con autoridad, BC 53: Cuando no hay caminos claros, la IA se va por la puerta de atrás y BC 62: La IA también pone a prueba al jefe.