SANTISMM Labs · Harness Engineering

Bancada de ensaio de controlo agêntico

Configure um agente, escolha uma ameaça e ligue ou desligue os dezoito controlos. Tudo o que aparece no ecrã deriva da taxonomia e da matriz de controlos — incluindo o número que este laboratório se recusa a mostrar-lhe.

Matriz v1.2 · Taxonomia v1.1Regulamento da IA · ISO/IEC 42001 · NIST AI RMF · OWASP LLM Top 10 · MITRE ATLAS

Quase todas as demonstrações de segurança agêntica terminam num número tranquilizador: uma margem de resiliência, uma pontuação de proteção, um indicador que fica verde quando se liga o suficiente. Esta não, e a ausência é o essencial. Os dezoito controlos são reais e as suas correspondências com os referenciais são reais, mas nenhum foi alguma vez medido contra uma geração de modelos — pelo que um valor de risco residual exigiria um coeficiente que não existe. O que obtém em vez disso é cobertura: que quadrantes preencheu, quais deixou vazios, que correspondências de ameaça tocou. A cobertura é um facto sobre a sua seleção. O risco residual seria uma afirmação sobre o mundo.

01O agente

Claude CodeGAA3·T2·D1·M2·L1·I1

Porque se classifica aqui: Nativo de terminal. Edita in-place, entrega PRs via Git.

AAutonomia

Quem puxa o gatilho?

Delegado: executa a tarefa completa, o humano revisa

THorizonte temporal

Quanto tempo vive?

Tarefa: minutos-horas, morre ao entregar

DAmplitude de domínio

O que cobre?

Vertical: um domínio (coding, CX, jurídico…)

MMemória e identidade

O que lembra e como muda?

Memória de usuário/projeto (lembra, não muda)

LAcoplamento de modelo

Preso a um lab?

Mono-modelo, preso ao provedor

IIdentidade operacional

Com quais credenciais atua?

Credenciais do usuário (indistinguível na auditoria)

02A ameaça

Lida a partir dos próprios controlos: cada entrada é um ponto do OWASP LLM Top 10 que pelo menos um controlo diz cobrir. O número é quantos o dizem.

03As defesas

0/18

Permissões e alcance

  • pré-alimentaçãoinferencial
  • pré-alimentaçãodeterminístico
  • pré-alimentaçãodeterminístico

Saída e exposição

  • pré-alimentaçãodeterminístico
  • realimentaçãodeterminístico
  • pré-alimentaçãodeterminístico

Execução

  • pré-alimentaçãodeterminístico
  • realimentaçãodeterminístico
  • realimentaçãoinferencial

Supervisão humana

  • pré-alimentaçãoinferencial
  • realimentaçãoinferencial

Evidência

  • realimentaçãodeterminístico
  • realimentaçãoinferencial

Ciclo de vida e entradas

  • pré-alimentaçãodeterminístico
  • pré-alimentaçãodeterminístico
  • realimentaçãoinferencial
  • pré-alimentaçãodeterminístico
  • realimentaçãoinferencial