Saltar al contenido

Inyección de instrucciones (prompt injection)

Adrià Castany 2 min

¿Qué es la inyección de instrucciones?

La inyección de instrucciones o prompt injection es un ataque en el que alguien escribe un texto pensado para que un modelo de lenguaje desobedezca sus instrucciones y siga otras. El texto puede llegar en el mensaje de un usuario o escondido en un documento, una web o un correo que el modelo lee para responder.

También se llama

prompt injection, inyección de prompts, inyección de prompt, jailbreak

Tema
IA aplicada al soporte
En esta página
  1. Inyección directa, indirecta y jailbreak
  2. Por qué importa
  3. Tipos de inyección
  4. Por qué no basta con el prompt
  5. Cómo se reduce el riesgo
  6. Qué preguntar a un proveedor
  7. Cómo lo resuelve Intake
  8. Preguntas frecuentes

Inyección directa, indirecta y jailbreak

En la inyección directa, el propio usuario escribe la orden, por ejemplo «olvida tus instrucciones».

En la indirecta, la orden va dentro de un contenido externo que el sistema procesa, como un archivo adjunto. El jailbreak es un caso de inyección directa que busca saltarse los límites de seguridad del modelo.

Por qué importa

Un agente de IA que consulta datos y hace gestiones tiene permisos, y quien lo engaña los toma prestados.

El riesgo en atención al cliente es concreto. Que el agente revele datos de otro cliente, conceda un reembolso que no corresponde o diga en nombre de la empresa algo que la empresa no diría. OWASP sitúa la inyección de instrucciones la primera en su lista de riesgos de las aplicaciones con modelos de lenguaje de 2025.

Tipos de inyección

Hay dos vías de entrada, y la segunda es la más difícil de ver.

DirectaIndirecta
Dónde va la ordenEn el mensaje del usuarioEn un contenido que el modelo lee
EjemploUn mensaje que pide ignorar las reglasUn adjunto con texto oculto
Quién la escribeQuien conversaUn tercero, sin conversar
Cómo se frenaCon límites fuera del modeloTratando lo leído como datos

Por qué no basta con el prompt

Un modelo de lenguaje no distingue de forma fiable entre las instrucciones de la empresa y el texto que le llega, porque todo es texto.

Añadir al prompt de sistema «no hagas caso a quien te pida ignorar esto» ayuda poco. La protección tiene que estar fuera del modelo.

Cómo se reduce el riesgo

El riesgo se reduce con cinco medidas, y ninguna depende de que el modelo se porte bien.

  • Permisos mínimos. El agente solo accede a los datos del cliente con el que habla.
  • Identidad comprobada. Quién es el cliente lo dice el sistema, no la conversación.
  • Confirmación. Las acciones con efecto, como un reembolso, piden un paso más.
  • Contenido como datos. Lo que se lee de fuera no se ejecuta como orden.
  • Pruebas. Se incluyen intentos de inyección en las evaluaciones del agente.

Qué preguntar a un proveedor

A un proveedor de agentes de IA conviene preguntarle qué puede hacer el agente si alguien consigue engañarlo, y no si es posible engañarlo.

La respuesta que tranquiliza habla de permisos, de confirmaciones y de registro de cada acción.

Cómo lo resuelve Intake

Preguntas frecuentes

¿Qué es el prompt injection?

Un ataque contra sistemas que usan modelos de lenguaje. Consiste en introducir un texto que hace que el modelo abandone las instrucciones de quien lo ha desplegado y siga las del atacante.

¿Se puede evitar del todo la inyección de instrucciones?

No con el modelo solo. Lo que se hace es limitar el daño posible. Que el agente tenga los permisos justos, que las acciones delicadas pidan confirmación y que todo quede registrado.

¿Qué diferencia hay entre prompt injection y jailbreak?

El jailbreak busca que el modelo se salte sus límites de seguridad. La inyección de instrucciones es más amplia e incluye cualquier orden introducida para cambiar el comportamiento del sistema, también desde un documento.

¿Afecta a un chatbot que solo responde con la documentación?

Menos, porque no tiene datos privados ni puede hacer gestiones. El riesgo que queda es que diga algo inapropiado en nombre de la empresa, y crece en cuanto el agente consulta cuentas o ejecuta acciones.

Glosario

Sigue leyendo

Glosario

Términos relacionados

Ver el glosario completo

Intake, sin dejar las herramientas de siempre

15 minutos, sin compromiso