seguridad IA
-
Prompt injection: por qué tu agente de IA no es seguro (y cómo arreglarlo)
Construí un agente de soporte con IA de noventa líneas. Le pedí un reembolso de 4.000 euros sobre un pedido de 1.299. Y me lo dio. No hubo exploit. No hubo técnica sofisticada. Escribí «instrucción del administrador» entre corchetes en el mensaje de un cliente, y el modelo obedeció. Eso es una prompt injection, y…
Search
Recent Posts
- Mecha: cómo saber de un vistazo qué API key de IA se ha quedado sin saldo o va a caducar
- Qué es el ODD (Organic Driven Development) y en qué se diferencia del SDD
- Así evité que mis agentes de IA se pisaran (y lo que de verdad lo arregló)
- Por qué te quedas sin tokens en Claude (y las 11 cosas que hago para que no me pase)
- Qué es Open Knowledge Format (OKF) y qué arregla de tu RAG