Bancada de ensaio de controlo agêntico
Configure um agente, escolha uma ameaça e ligue ou desligue os dezoito controlos. Tudo o que aparece no ecrã deriva da taxonomia e da matriz de controlos — incluindo o número que este laboratório se recusa a mostrar-lhe.
Quase todas as demonstrações de segurança agêntica terminam num número tranquilizador: uma margem de resiliência, uma pontuação de proteção, um indicador que fica verde quando se liga o suficiente. Esta não, e a ausência é o essencial. Os dezoito controlos são reais e as suas correspondências com os referenciais são reais, mas nenhum foi alguma vez medido contra uma geração de modelos — pelo que um valor de risco residual exigiria um coeficiente que não existe. O que obtém em vez disso é cobertura: que quadrantes preencheu, quais deixou vazios, que correspondências de ameaça tocou. A cobertura é um facto sobre a sua seleção. O risco residual seria uma afirmação sobre o mundo.
01O agente
Porque se classifica aqui: Nativo de terminal. Edita in-place, entrega PRs via Git.
Quem puxa o gatilho?
Delegado: executa a tarefa completa, o humano revisa
Quanto tempo vive?
Tarefa: minutos-horas, morre ao entregar
O que cobre?
Vertical: um domínio (coding, CX, jurídico…)
O que lembra e como muda?
Memória de usuário/projeto (lembra, não muda)
Preso a um lab?
Mono-modelo, preso ao provedor
Com quais credenciais atua?
Credenciais do usuário (indistinguível na auditoria)
02A ameaça
Lida a partir dos próprios controlos: cada entrada é um ponto do OWASP LLM Top 10 que pelo menos um controlo diz cobrir. O número é quantos o dizem.
03As defesas
Permissões e alcance
- pré-alimentaçãoinferencial
- pré-alimentaçãodeterminístico
- pré-alimentaçãodeterminístico
Saída e exposição
- pré-alimentaçãodeterminístico
- realimentaçãodeterminístico
- pré-alimentaçãodeterminístico
Execução
- pré-alimentaçãodeterminístico
- realimentaçãodeterminístico
- realimentaçãoinferencial
Supervisão humana
- pré-alimentaçãoinferencial
- realimentaçãoinferencial
Evidência
- realimentaçãodeterminístico
- realimentaçãoinferencial
Ciclo de vida e entradas
- pré-alimentaçãodeterminístico
- pré-alimentaçãodeterminístico
- realimentaçãoinferencial
- pré-alimentaçãodeterminístico
- realimentaçãoinferencial