Supervisión: aprobación humana y umbral de confianza

Dos controles para no soltar la IA sin red: pedir que un humano apruebe cada respuesta antes de enviarla, y transferir automáticamente cuando el modelo no está seguro.

Jun 26, 2026

Mira este paso en el video · Supervisión: aprobación humana

La sección Supervisión y confianza te deja mantener un humano en el bucle mientras la IA atiende. Tiene dos controles independientes: aprobación humana de cada respuesta antes de enviarla, y un umbral de confianza que transfiere el chat a un humano cuando el modelo no está seguro de lo que respondió. Puedes activar uno, el otro o los dos.

Cuándo te sirve

  • El agente es nuevo y todavía no confías del todo en sus respuestas.
  • Atiendes temas sensibles (salud, legal, dinero) donde un error tiene costo.
  • Quieres entrenar al equipo viendo qué responde la IA antes de soltarla sola.

Dónde se configura

  1. Entra a Agentes de IA desde el menú lateral.
  2. Abre el agente y ve a la pestaña Comportamiento.
  3. Busca la sección Supervisión y confianza.

Aprobación humana antes de enviar

Activa Requiere aprobación humana antes de enviar. A partir de ahí, cada respuesta del agente se guarda como borrador en la conversación en vez de enviarse al cliente. Un agente humano lo revisa desde la bandeja de entrada y puede:

  • Aprobarlo y enviarlo tal cual,
  • Editarlo antes de enviar, o
  • Rechazarlo y escribir su propia respuesta.

El cliente nunca ve nada hasta que un humano da el visto bueno. Es el modo más seguro, pero pierde la inmediatez: si nadie aprueba, el cliente espera.

Umbral de confianza para transferir

En Umbral de confianza para transferir pones un valor. Cuando el modelo reporta en su respuesta una confianza menor a ese número, la conversación se transfiere automáticamente a un humano en lugar de enviarse. Es un handoff inteligente: la IA responde sola cuando está segura y se aparta cuando duda.

  • Un umbral alto es más exigente: transfiere más seguido (más seguro, menos automático).
  • Un umbral bajo deja que la IA conteste más casos por su cuenta.
  • Para desactivarlo, deja el campo vacío o usa el botón Desactivar.

Guarda con Guardar cuando termines.

Cómo verificar

Abre el Sandbox del agente y hazle una pregunta difícil o ambigua. Si activaste el umbral de confianza, verás que en casos dudosos marca la transferencia; en la pestaña Traza puedes inspeccionar la confianza que reportó el modelo. Con aprobación humana activa, manda un mensaje de prueba real y comprueba que la respuesta queda como borrador a la espera de aprobación.

Si no funciona

  • Las respuestas salen sin que nadie las apruebe: revisa que Requiere aprobación humana quedó activado y guardado en ese agente (es por agente, no global).
  • Nunca transfiere por confianza: quizá el umbral está muy bajo o vacío. Súbelo para que sea más estricto.
  • Transfiere demasiado: baja el umbral; lo tienes demasiado exigente.

Tips

  • Usa aprobación humana las primeras semanas de un agente nuevo y desactívala cuando ganes confianza.
  • Combina el umbral de confianza con un equipo destino de handoff para que las transferencias caigan en las manos correctas.

Artículos relacionados

¿Te fue útil?

Artículos relacionados

Escríbenos por WhatsApp