seguridad IA
-
Prompt injection: por qué tu agente de IA no es seguro (y cómo arreglarlo)
Construí un agente de soporte con IA de noventa líneas. Le pedí un reembolso de 4.000 euros sobre un pedido de 1.299. Y me lo dio. No hubo exploit. No hubo técnica sofisticada. Escribí «instrucción del administrador» entre corchetes en el mensaje de un cliente, y el modelo obedeció. Eso es una prompt injection, y…
Search
Recent Posts
- Por qué te quedas sin tokens en Claude (y las 11 cosas que hago para que no me pase)
- Qué es Open Knowledge Format (OKF) y qué arregla de tu RAG
- IA local en WordPress 7: cómo conectar Ollama sin API key
- SpecJudge: cómo elegir el modelo de IA con mejor relación calidad/precio para tu proyecto
- Prompt injection: por qué tu agente de IA no es seguro (y cómo arreglarlo)