Articles sur CAPTURE
1 articles liés
CAPTURE: Disentangling Preference Drift from Memory Poisoning in Personalized LLM Agents
AI InsightL'objectif principal de CAPTURE n'est pas simplement d'empêcher la falsification de la mémoire, mais de reconnaître l'ambiguïté inhérente aux « changements de préférences » et aux « injections malveillantes » dans les mises à jour de la mémoire, et d'utiliser le suivi des croyances pour modéliser explicitement cette incertitude. Cela signifie que la ligne de défense de sécurité des agents personnalisés évolue du filtrage de règles à l'inférence probabiliste.Importance 62/100