Saltar al contenido

Riesgos de la IA en atención al cliente y cómo controlar cada uno

Un agente de IA delante de los clientes puede inventar un dato, prometer lo que la empresa no da, hacer una gestión que no tocaba o dejar a alguien sin llegar a una persona. Los siete riesgos, el control que evita cada uno, cuánta supervisión pide cada tema y cómo comprobarlo antes de encenderlo.

Adrià Castany 14 min

En esta página
  1. ¿Qué riesgos tiene la IA en atención al cliente?
  2. Los controles, uno a uno
  3. Cuánta supervisión pide cada tema
  4. Lo que dice la ley
  5. Cómo comprobarlo antes de encender nada
  6. Cómo lo hace Intake
  7. Preguntas frecuentes
  8. Para seguir
Dos compañeros revisan un documento junto a un portátil en la oficina
Así contesta el agente de IA de Intake con la documentación de cada empresa

Usar IA en atención al cliente tiene siete riesgos. Que invente un dato, que prometa lo que la empresa no da, que haga una gestión que no tocaba, que no deje llegar a una persona, que enseñe datos de otro cliente o se deje engañar, que trate los datos fuera de la UE y que la factura crezca sin control. Ninguno depende de la suerte. Cada uno tiene un control concreto que se configura y se comprueba antes de encender el agente.

Este artículo es para quien tiene que decidir si pone una IA delante de una cartera de clientes que ha costado años construir. La pregunta no es si la IA funciona. Es qué puede salir mal y quién se entera.

¿Qué riesgos tiene la IA en atención al cliente?

Los siete, con un ejemplo de una empresa de software con años de clientes y el control que lo evita.

RiesgoEjemploControl
Inventa un datoConfirma una integración que el producto no tieneResponder solo con fuentes y saber qué hacer sin ellas
Promete lo que no se daOfrece un mes gratis por una caídaDirectrices que prohíben prometer y pasan esos casos a una persona
Hace una gestión que no tocabaCancela una suscripción sin confirmarPermisos por acción y aprobación de una persona en las delicadas
No deja llegar a una personaEl cliente pide hablar con alguien y el agente insistePaso inmediato cuando se pide, con el contexto
Enseña datos de otro o se deja engañarResponde con la factura de otra empresaConsultas atadas al cliente identificado y límites fuera del modelo
Trata los datos fuera de la UELos modelos corren en otra regiónContrato de encargo con la región de datos y de modelos por escrito
La factura crece sin controlCada resolución se cobra aparteSaber qué cuenta como resolución y cuánto costaría con el doble de volumen

Los controles, uno a uno

Que invente un dato

Un modelo de lenguaje escribe el texto más plausible con lo que tiene delante. Sin fuente, escribe igual. Es una alucinación. El control tiene dos partes. El agente responde solo con la documentación y los datos de la empresa, y está escrito qué hace cuando no encuentra nada. Lo explica con detalle qué hace un agente de IA cuando no sabe la respuesta.

Que prometa lo que la empresa no da

Un cliente molesto pide una compensación y el agente, por ser amable, la ofrece. El control son directrices que se aplican siempre, por encima de la documentación. «No ofrezcas descuentos, compensaciones ni plazos que no estén escritos. Si el cliente los pide, pasa la conversación a una persona.»

Que haga una gestión que no tocaba

Un agente que consulta la cuenta y hace gestiones vale mucho más que uno que solo responde. También arriesga más. El control es decidir, acción por acción, cuáles hace solo y cuáles esperan a una persona. Consultar el estado de una factura puede ir solo. Un reembolso, una baja o un cambio de titular, no. Es la supervisión humana puesta donde un error cuesta caro.

Que no deje llegar a una persona

Es el riesgo que más rápido rompe la confianza. Un cliente que pide una persona y no la consigue se va convencido de que la empresa se esconde detrás de un bot. El control es simple. Si el cliente lo pide, el agente pasa la conversación sin insistir, con un resumen para que no tenga que repetir nada. Cómo hacerlo bien está en pasar una conversación del chatbot a una persona.

Que enseñe datos de otro cliente o se deje engañar

Un agente que consulta datos lo hace con los permisos que se le dan. Si las consultas no están atadas al cliente que escribe, puede acabar enseñando la cuenta de otro. Y alguien puede escribir un mensaje pensado para que desobedezca sus instrucciones, lo que se llama inyección de instrucciones. El control está fuera del modelo. Cada consulta va con la identidad del cliente, cada acción con sus permisos, y lo que no debe hacer no depende de que lo obedezca.

Que trate los datos fuera de la UE

Las conversaciones llevan datos personales y, a veces, datos sensibles. El control es pedir por escrito dónde se guardan los datos, dónde corren los modelos y si alguien entrena con las conversaciones. Qué revisar con legal está en la lista de RGPD y Reglamento de IA.

Que la factura crezca sin control

Muchas herramientas cobran la IA por resolución o por sesión. Un mes con una incidencia puede multiplicar la factura. El control es saber qué cuenta como resolución, si se paga también el traspaso y cuánto costaría con el doble de conversaciones, antes de firmar.

Cuánta supervisión pide cada tema

No hace falta revisarlo todo. Hace falta repartir la supervisión según lo que cuesta un error. Un ejemplo de reparto.

TemaQué hace la IAQué supervisa una persona
Dudas de usoRespondeUna muestra de respuestas, después
Consultas sobre la cuentaConsulta y respondeUna muestra y todos los fallos
Gestiones con dinero o contratoLas preparaAprueba antes de hacerlas
Reclamaciones y bajasPasa la conversación con un resumenTodo
Datos de salud o financierosPasa la conversaciónTodo

El reparto se escribe antes de encender el agente y se revisa a las pocas semanas, con lo que se ha visto.

Intake con los casos reales de la empresa, en una demo de 15 minutos

Lo que dice la ley

Dos normas tocan directamente a un agente de IA que atiende clientes en España.

Las dos se consultaron en el BOE el 17 de noviembre de 2026. Esto no es asesoramiento legal. Si un caso concreto entra en cada norma lo valora el asesoramiento jurídico de la empresa.

Cómo comprobarlo antes de encender nada

Cada control se ve en una prueba. Siete comprobaciones para la demo y para el primer mes.

  • [ ] Una pregunta que no está escrita en ninguna parte. El agente no la inventa.
  • [ ] Un cliente que pide una compensación. El agente no la ofrece y pasa la conversación.
  • [ ] Una gestión delicada. Queda a la espera de una persona.
  • [ ] «Quiero hablar con una persona», a mitad de la conversación. Pasa sin insistir.
  • [ ] Una consulta de cuenta hecha como otro cliente. No ve datos ajenos.
  • [ ] El contrato de encargo, con la región de los datos y de los modelos.
  • [ ] El precio por escrito con el volumen actual y con el doble.

Hechas en la demo, estas pruebas descartan proveedores. Hechas durante el primer mes con clientes reales, dicen si se puede ampliar. Cómo organizar ese mes, semana a semana, está en el plan de prueba de 30 días de un agente de IA.

Cómo lo hace Intake

En Intake, el agente responde con la documentación y los datos de cada cliente, y qué hace cuando no encuentra nada se elige en la configuración. Las directrices se aplican siempre, por encima del conocimiento. Cada acción sobre la API de la empresa se puede marcar como «Requiere aprobación humana», y entonces la IA no la lanza y pasa la conversación a una persona. Si el cliente pide una persona, la conversación pasa al equipo que lleva ese tema con una nota de qué quiere, qué se ha intentado y qué falta.

Los cambios se prueban antes en Probar la IA, con el borrador y como un cliente concreto, y cada respuesta lleva «Por qué respondió así», con las fuentes que leyó. Los datos están en la UE y los modelos corren en regiones de la UE a través de Amazon Bedrock, sin entrenar con los datos de los clientes, como explica la página de seguridad. La IA va incluida en los dos planes, sin cargo por resolución. Cómo queda frente a otros agentes, criterio a criterio, está en la comparativa de agentes de IA para atención al cliente.

Reservar una demo

Preguntas frecuentes

¿Es seguro usar IA para atender a clientes?

Con los controles adecuados, sí. Responder solo con fuentes, gestiones delicadas aprobadas por una persona, paso inmediato cuando se pide y datos y modelos en la UE cubren los riesgos principales. Sin ellos, nadie sabe qué está diciendo el agente.

¿Cuál es el mayor riesgo de un chatbot de IA?

El que menos se ve, una respuesta inventada dicha con aplomo. El cliente la cree y actúa. Se controla respondiendo solo con fuentes y revisando cada día las respuestas que se dieron sin ninguna.

¿Hay que avisar al cliente de que habla con una IA?

El artículo 50 del Reglamento de IA obliga a que la persona sepa que interactúa con una IA, salvo que resulte evidente. Lo prudente es decirlo en el primer mensaje.

¿Puede un agente de IA hacer reembolsos o bajas?

Técnicamente, sí, si tiene una acción para ello. Lo recomendable es que esas gestiones esperen a una persona, al menos durante los primeros meses, y que todas queden registradas.

¿Cómo se sabe si un agente de IA está fallando?

Por las respuestas sin fuente, las valoraciones negativas, los clientes que repiten la pregunta y una muestra leída cada día por una persona. Las cuatro señales aparecen antes que las bajas.

Para seguir

Siguiente pasoPlan de prueba de 30 días de un agente de IASemana a semana, cuatro métricas y los criterios para ampliar o parar.

Las novedades, por correo

RSS

Solo las novedades, con la baja en cada correo. Más detalle en la política de privacidad.

De perseguir conversaciones a cuidar a cada cliente

15 minutos, sin compromiso