Prompt injection e manipulação indireta
Conteúdo externo ingerido por RAG ou agentes injeta instruções maliciosas e desvia o comportamento do modelo.
62
Prioridade
Visão de auditoria
Ciclo de vida de construção: prompt/RAG, pipelines, avaliação, segredos, agentes autônomos e segurança de aplicação (OWASP LLM).
Riscos mapeados
7
itens no universo auditável
Riscos críticos
0
score de prioridade ≥ 70
Cobertura 24m
19%
média de cobertura de auditoria
Maturidade de controles
45%
autoavaliação 2ª linha
Conteúdo externo ingerido por RAG ou agentes injeta instruções maliciosas e desvia o comportamento do modelo.
62
Prioridade
Logs incompletos impedem reconstrução da decisão e investigação forense exigida por reguladores.
59
Prioridade
Agentes com acesso a APIs transacionais sem segregação, limite de alçada ou aprovação humana.
57
Prioridade
Falta de baterias de teste de acurácia, viés, toxicidade e regressão antes de cada release de prompt ou modelo.
55
Prioridade
Modelos open-source e pacotes sem SBOM, assinatura ou varredura de vulnerabilidade.
46
Prioridade
Alterações de prompt em produção sem versionamento, aprovação ou rollback.
42
Prioridade
Chaves de provedores de modelo em repositórios, notebooks ou variáveis não rotacionadas.
35
Prioridade