prompt injection
-
Prompt injection: por qué tu agente de IA no es seguro (y cómo arreglarlo)
Construí un agente de soporte con IA de noventa líneas. Le pedí un reembolso de 4.000 euros sobre un pedido de 1.299. Y me lo dio. No hubo exploit. No hubo técnica sofisticada. Escribí «instrucción del administrador» entre corchetes en el mensaje de un cliente, y el modelo obedeció. Eso es una prompt injection, y…
Search
Recent Posts
- Qué es Open Knowledge Format (OKF) y qué arregla de tu RAG
- IA local en WordPress 7: cómo conectar Ollama sin API key
- SpecJudge: cómo elegir el modelo de IA con mejor relación calidad/precio para tu proyecto
- Prompt injection: por qué tu agente de IA no es seguro (y cómo arreglarlo)
- El problema de los tokens en la IA que programa (y cómo lo resuelve Codebase Memory MCP)