Cenários de ataque
Um cenário descreve uma persona adversária, a técnica que ela exerce e a asserção que decide se a defesa segurou.
Pontos-chave
- Cenários são versionados: uma mudança cria um novo cenário, nunca uma edição in-place.
- Cada cenário mapeia uma categoria OWASP LLM e uma técnica ATT&CK.
- Paráfrases são geradas automaticamente para testar robustez de wording.
- Cenários customizados podem ser adicionados via API de scenario authoring.
01
Famílias de cenários built-in
- Prompt injection / jailbreak (LLM01).
- Sensitive information disclosure (LLM02).
- System-prompt leak (LLM07).
02
Cenários customizados
- Crie com um manifesto YAML + função grader.
- Valide localmente com `engine simulate --scenario=path/to/manifest`.
- Publique no catálogo do tenant para reuso entre execuções.