Integramos modelos de lenguaje y agentes en sus sistemas con los mismos controles que exigiríamos a cualquier usuario con acceso a datos: permisos mínimos, entradas no confiables y registro de lo que hace.
Un agente con acceso a herramientas es, en la práctica, un usuario más del sistema que obedece a texto. Si ese texto viene de un cliente, de un correo o de una página web, cualquiera puede intentar darle instrucciones: eso es la inyección de prompt.
La defensa está en el diseño: qué herramientas tiene el agente, con qué permisos, qué datos puede ver y qué acciones requieren confirmación humana. Pedirle al modelo que se porte bien no basta.
Lo que aplicamos en este tipo de proyecto, porque es lo que suele fallar en un pentest:
| Entregable | Qué contiene |
|---|---|
| Integración funcionando | En su sistema, con configuración y costos documentados. |
| Matriz de permisos del agente | Qué puede hacer, con qué datos y bajo qué condiciones. |
| Batería de pruebas | Casos normales y casos de abuso, incluida inyección de prompt. |
Cotizamos después de una llamada de alcance gratuita, por proyecto con alcance cerrado o con una cuota mensual. Pago: 50 % al aceptar y 50 % al entregar en proyectos cerrados. Cómo se contrata.
Qué sube el precio
El que mejor se ajuste al caso, al costo y a dónde deben quedar los datos. El diseño no depende de un proveedor.
Hoy no. Por eso el diseño asume que el modelo puede ser engañado y limita lo que puede hacer si eso pasa.
Siguiente paso
Una llamada gratuita de 30 minutos para entender el problema, el plazo y el equipo. Si no somos la opción correcta, se lo diremos.