Noticias sobre Fine-Tuning
1 artículos relacionados
La sensibilidad de la atención no es suficiente: disociar el nivel de atención y el aprendizaje conductual en contexto mediante un ajuste fino
Attention Sensitivity Is Not Enough: Dissociating Attention-Level and Behavioural In-Context Learning under Fine-Tuning
AI InsightEl artículo utiliza la regularización para acercar la sensibilidad de la atención al límite superior geométrico, pero si la ICL conductual aún está degradada, significa que el agente de atención no puede reemplazar la evaluación conductual. Esto sugiere que la verificación del ajuste para mantener ICL debe devolver la brecha en la precisión del comportamiento, en lugar de simplemente observar los cambios en la atención.Importancia 55/100