OWASP Top 10 for LLM Applications
Catálogo de los riesgos de seguridad más críticos en aplicaciones con LLMs: prompt injection, fuga de datos sensibles, envenenamiento, consumo excesivo y más.
Qué es
Un estándar de facto que enumera los riesgos de seguridad más críticos específicos de aplicaciones construidas sobre LLMs. Es la base para el red-teaming y el threat modeling de sistemas de IA.
Riesgos destacados
- LLM01 — Prompt Injection: manipulación de la entrada (directa o indirecta vía contenido recuperado) para subvertir el comportamiento.
- LLM02 — Sensitive Information Disclosure: fuga de PII, secretos o del system prompt.
- LLM03 — Supply chain / Data poisoning: corrupción de datos de entrenamiento o componentes.
- LLM06 — Excessive Agency: agentes con permisos para acciones irreversibles sin salvaguardas.
Uso en QA-OFF
Ancla de autoridad para la rama de seguridad de IA. El roadmap Testing de RAG referencia este catálogo en su etapa de red-teaming.
Grafo de conocimiento
Complementa a