SANTISMM Labs · Harness Engineering

Banco de pruebas de control agéntico

Configura un agente, elige una amenaza y enciende o apaga los dieciocho controles. Todo lo que sale en pantalla se deriva de la taxonomía y de la matriz de controles — incluido el número que este lab se niega a enseñarte.

Matriz v1.2 · Taxonomía v1.1Reglamento de IA · ISO/IEC 42001 · NIST AI RMF · OWASP LLM Top 10 · MITRE ATLAS

Casi todas las demos de seguridad agéntica terminan en un número tranquilizador: un margen de resiliencia, una puntuación de protección, un indicador que se pone verde cuando enciendes suficientes cosas. Esta no, y la ausencia es lo importante. Los dieciocho controles son reales y sus correspondencias con los marcos son reales, pero ninguno se ha medido nunca contra una generación de modelos — así que una cifra de riesgo residual necesitaría un coeficiente que no existe. Lo que obtienes en su lugar es cobertura: qué cuadrantes has llenado, cuáles has dejado vacíos, qué correspondencias de amenaza has tocado. La cobertura es un hecho sobre tu selección. El riesgo residual sería una afirmación sobre el mundo.

01El agente

Claude CodeGAA3·T2·D1·M2·L1·I1

Por qué se clasifica aquí: Terminal-nativo. Edita in-place, entrega PRs vía Git.

AAutonomía

¿Quién aprieta el gatillo?

Delegado: ejecuta la tarea completa, el humano revisa

THorizonte temporal

¿Cuánto vive?

Tarea: minutos-horas, muere al entregar

DAmplitud de dominio

¿Qué cubre?

Vertical: un dominio (coding, CX, legal…)

MMemoria e identidad

¿Qué recuerda y cómo cambia?

Memoria de usuario/proyecto (recuerda, no cambia)

LAcoplamiento de modelo

¿Atado a un lab?

Mono-modelo, atado al proveedor

IIdentidad operativa

¿Con qué credenciales actúa?

Credenciales del usuario (indistinguible en auditoría)

02La amenaza

Leída de los propios controles: cada entrada es un punto del OWASP LLM Top 10 que al menos un control dice cubrir. El número es cuántos lo dicen.

03Las defensas

0/18

Permisos y alcance

  • prealimentacióninferencial
  • prealimentacióndeterminista
  • prealimentacióndeterminista

Salida y exposición

  • prealimentacióndeterminista
  • realimentacióndeterminista
  • prealimentacióndeterminista

Ejecución

  • prealimentacióndeterminista
  • realimentacióndeterminista
  • realimentacióninferencial

Supervisión humana

  • prealimentacióninferencial
  • realimentacióninferencial

Evidencia

  • realimentacióndeterminista
  • realimentacióninferencial

Ciclo de vida y entradas

  • prealimentacióndeterminista
  • prealimentacióndeterminista
  • realimentacióninferencial
  • prealimentacióndeterminista
  • realimentacióninferencial