Noticias sobre CAPTURE
1 artículos relacionados
CAPTURE: Disentangling Preference Drift from Memory Poisoning in Personalized LLM Agents
AI InsightEl núcleo de CAPTURE no es simplemente evitar que se altere la memoria, sino reconocer la ambigüedad inherente de los "cambios de preferencias" y la "inyección maliciosa" en las actualizaciones de la memoria, y utilizar el seguimiento de creencias para modelar explícitamente esta incertidumbre. Esto significa que la línea de defensa de seguridad de los agentes personalizados está evolucionando desde el filtrado de reglas hasta la inferencia probabilística.Importancia 62/100