Noticias sobre AgentDojo
1 artículos relacionados
La ventana está en el razonamiento: cuando los LLM Agent deciden seguir las inyecciones inmediatas
The Window Is in the Reasoning: When LLM Agents Decide to Follow Prompt Injections
AI InsightLa seguridad tradicional en la monitorización asume que el éxito o el fracaso de una inyección de prompts se decide en el momento de la lectura, pero las investigaciones demuestran que un Agent que introduce un proceso de razonamiento alterará la varianza de los resultados en los pasos posteriores. Esto indica que los límites de defensa de seguridad de los modelos de lenguaje de gran tamaño se están extendiendo desde el filtrado de entradas estáticas hacia la monitorización dinámica del proceso de razonamiento.