seguridad IA
-
Prompt injection: por qué tu agente de IA no es seguro (y cómo arreglarlo)
Construí un agente de soporte con IA de noventa líneas. Le pedí un reembolso de 4.000 euros sobre un pedido de 1.299. Y me lo dio. No hubo exploit. No hubo técnica sofisticada. Escribí «instrucción del administrador» entre corchetes en el mensaje de un cliente, y el modelo obedeció. Eso es una prompt injection, y…
Search
Recent Posts
- Prompt injection: por qué tu agente de IA no es seguro (y cómo arreglarlo)
- El problema de los tokens en la IA que programa (y cómo lo resuelve Codebase Memory MCP)
- Los 6 niveles de programar con IA (y por qué el 90% se queda atascado)
- Spec Driven Development en un proyecto que ya existe: aplica SDD sin reescribir tu código
- Cuantización de modelos de IA: la guía técnica para correr LLMs en tu propio PC