Supervisión: aprobación humana y umbral de confianza
Dos controles para no soltar la IA sin red: pedir que un humano apruebe cada respuesta antes de enviarla, y transferir automáticamente cuando el modelo no está seguro.
Mira este paso en el video · Supervisión: aprobación humana
La sección Supervisión y confianza te deja mantener un humano en el bucle mientras la IA atiende. Tiene dos controles independientes: aprobación humana de cada respuesta antes de enviarla, y un umbral de confianza que transfiere el chat a un humano cuando el modelo no está seguro de lo que respondió. Puedes activar uno, el otro o los dos.
Cuándo te sirve
- El agente es nuevo y todavía no confías del todo en sus respuestas.
- Atiendes temas sensibles (salud, legal, dinero) donde un error tiene costo.
- Quieres entrenar al equipo viendo qué responde la IA antes de soltarla sola.
Dónde se configura
- Entra a Agentes de IA desde el menú lateral.
- Abre el agente y ve a la pestaña Comportamiento.
- Busca la sección Supervisión y confianza.
Aprobación humana antes de enviar
Activa Requiere aprobación humana antes de enviar. A partir de ahí, cada respuesta del agente se guarda como borrador en la conversación en vez de enviarse al cliente. Un agente humano lo revisa desde la bandeja de entrada y puede:
- Aprobarlo y enviarlo tal cual,
- Editarlo antes de enviar, o
- Rechazarlo y escribir su propia respuesta.
El cliente nunca ve nada hasta que un humano da el visto bueno. Es el modo más seguro, pero pierde la inmediatez: si nadie aprueba, el cliente espera.
Umbral de confianza para transferir
En Umbral de confianza para transferir pones un valor. Cuando el modelo reporta en su respuesta una confianza menor a ese número, la conversación se transfiere automáticamente a un humano en lugar de enviarse. Es un handoff inteligente: la IA responde sola cuando está segura y se aparta cuando duda.
- Un umbral alto es más exigente: transfiere más seguido (más seguro, menos automático).
- Un umbral bajo deja que la IA conteste más casos por su cuenta.
- Para desactivarlo, deja el campo vacío o usa el botón Desactivar.
Guarda con Guardar cuando termines.
Cómo verificar
Abre el Sandbox del agente y hazle una pregunta difícil o ambigua. Si activaste el umbral de confianza, verás que en casos dudosos marca la transferencia; en la pestaña Traza puedes inspeccionar la confianza que reportó el modelo. Con aprobación humana activa, manda un mensaje de prueba real y comprueba que la respuesta queda como borrador a la espera de aprobación.
Si no funciona
- Las respuestas salen sin que nadie las apruebe: revisa que Requiere aprobación humana quedó activado y guardado en ese agente (es por agente, no global).
- Nunca transfiere por confianza: quizá el umbral está muy bajo o vacío. Súbelo para que sea más estricto.
- Transfiere demasiado: baja el umbral; lo tienes demasiado exigente.
Tips
- Usa aprobación humana las primeras semanas de un agente nuevo y desactívala cuando ganes confianza.
- Combina el umbral de confianza con un equipo destino de handoff para que las transferencias caigan en las manos correctas.
Artículos relacionados
Artículos relacionados
-
Crear tu primer agente de IA
Aprende qué hace un agente de IA en Omnifox, cómo darle instrucciones, conectarlo a un canal y probarlo en el sandbox antes de que hable con clientes reales.
-
Cómo escribir buenas instrucciones para tu agente de IA
Aprende a redactar instrucciones claras para que tu agente de IA responda con el tono, los límites y las acciones correctas.
-
Guía completa de los Agentes de IA
Los Agentes de IA a fondo, en 65 capítulos: crear, instrucciones, herramientas, conocimiento, comportamiento, probador, bandeja, flujos, analítica y consumo, con cada opción explicada.
-
Conectar tu agente de IA a WhatsApp, Instagram, Messenger y el chat web
Un agente sin canales no atiende a nadie. Conéctalo a tu WhatsApp, Instagram, Messenger o al chat de tu sitio web desde la sección Conexiones, y enciéndelo para que empiece a responder.
-
Empieza aquí: los Agentes de IA en 8 minutos
Lo esencial de los Agentes de IA en un video corto: crear un agente, sus instrucciones, herramientas, conocimiento, canales, el probador, el horario y el paso a una persona.