Saltar al contenido

Supervisión humana (human in the loop)

Adrià Castany 2 min

¿Qué es la supervisión humana?

La supervisión humana o human in the loop es el diseño en el que una persona revisa, aprueba o corrige lo que hace un sistema de IA en los puntos donde un error cuesta caro. En atención al cliente, son las gestiones que esperan el visto bueno del equipo y las respuestas que alguien revisa.

También se llama

human in the loop, HITL, humano en el bucle, aprobación humana, revisión humana

Tema
IA aplicada al soporte
En esta página
  1. Antes de actuar y después
  2. Por qué importa
  3. Dónde se pone a una persona
  4. Cuánta supervisión, según el riesgo
  5. Lo que dice el Reglamento de IA
  6. La supervisión humana en Intake
  7. Cómo lo resuelve Intake
  8. Preguntas frecuentes

Antes de actuar y después

Hay supervisión antes, cuando una persona aprueba la respuesta o la gestión antes de que llegue al cliente, y supervisión después, cuando revisa una muestra de lo que la IA ya hizo.

La primera frena al agente y la segunda no. Lo habitual es combinar las dos según el riesgo de cada tema.

Por qué importa

Es la respuesta a la pregunta de quien decide, ¿me puedo fiar de la IA con mis clientes?

No hace falta revisarlo todo. Hace falta saber qué gestiones no hace nunca sola, quién lee lo que respondió y qué pasa cuando se equivoca. Sin eso, la confianza depende de que no pase nada.

Dónde se pone a una persona

En atención al cliente, la supervisión humana se pone en cuatro puntos.

  • Antes de una gestión delicada. Un reembolso, una baja o un cambio de titular esperan a una persona.
  • Cuando la IA no sabe. Pasa la conversación en vez de contestar.
  • En la revisión diaria. Una persona lee una muestra de respuestas y marca las incorrectas.
  • Antes de publicar un cambio. Las instrucciones nuevas se prueban con preguntas reales.

Cuánta supervisión, según el riesgo

La supervisión se reparte por temas.

Revisarlo todo antes de enviarlo quita la razón de tener un agente.

TemaSupervisiónEjemplo
Duda de usoRevisión de una muestra, despuésCómo exportar un informe
Consulta con datos de la cuentaRevisión de una muestra y de todos los fallosEl estado de una factura
Gestión con dinero o contratoAprobación antes de hacerlaUn reembolso
Tema sensibleSiempre una personaUna reclamación

Lo que dice el Reglamento de IA

El artículo 14 del Reglamento (UE) 2024/1689 exige que los sistemas de IA de alto riesgo se diseñen de modo que puedan ser vigilados de manera efectiva por personas físicas mientras están en uso.

Si un uso concreto es de alto riesgo lo valora el asesoramiento jurídico de la empresa.

La supervisión humana en Intake

En Intake, una acción marcada «Requiere aprobación humana» no la lanza la IA, que pasa la conversación a una persona del equipo.

En cada respuesta, «Por qué respondió así» enseña las fuentes que leyó y el equipo marca si es correcta. Las instrucciones, las acciones y las respuestas guiadas se prueban en borrador antes de aplicarlas.

Cómo lo resuelve Intake

Preguntas frecuentes

¿Qué es human in the loop?

Un diseño en el que una persona revisa, aprueba o corrige lo que hace un sistema de IA en los puntos de más riesgo. En español se dice supervisión humana o humano en el bucle.

¿Hay que revisar todas las respuestas de un agente de IA?

No. Se revisa una muestra y todos los fallos, y lo delicado se aprueba antes o pasa siempre a una persona. Revisarlo todo antes de enviarlo convierte al agente en un copiloto.

¿Qué gestiones deben esperar a una persona?

Las que mueven dinero, cambian un contrato o tocan datos personales de forma difícil de deshacer. Un reembolso, una baja o un cambio de titular son los ejemplos habituales.

¿Exige la ley supervisión humana en un chatbot?

El Reglamento de IA la exige en los sistemas de alto riesgo. Si un agente de atención al cliente lo es depende de su uso, y lo valora el asesoramiento jurídico de la empresa.

Glosario

Sigue leyendo

Glosario

Términos relacionados

Ver el glosario completo

Intake, sin dejar las herramientas de siempre

15 minutos, sin compromiso