Noticias sobre Black-box Queries

Esta investigación significa que cuando los agentes de IA dependen de modelos de código cerrado, los rastros de comportamiento externos se están convirtiendo en un medio central de monitoreo de seguridad. Hacer avanzar el enfoque de monitoreo desde el resultado final hasta el "primer error crítico no corregido" no solo mejorará la eficiencia de la intervención, sino que también puede remodelar la línea de defensa de seguridad durante la ejecución del agente.