Articles sur AgentDojo
1 articles liés
La fenêtre réside dans le raisonnement : quand les LLM Agent décident de suivre des injections de prompt
The Window Is in the Reasoning: When LLM Agents Decide to Follow Prompt Injections
AI InsightLa surveillance de la sécurité traditionnelle suppose que le succès ou l'échec d'une injection de prompt se décide dès l'instant de la lecture, mais des recherches montrent que les Agent introduisant un processus de raisonnement modifient la variance des résultats lors des étapes ultérieures. Cela indique que les frontières de la défense de sécurité des LLM s'étendent du filtrage d'entrée statique vers une surveillance dynamique du processus de raisonnement.