Noticias sobre CoDR
1 artículos relacionados
CoDR: entrenamiento-Free Confidence-Drift Remasking for Diffusion Language Models
CoDR: Training-Free Confidence-Drift Remasking for Diffusion Language Models
AI InsightEl modelo de lenguaje grande de difusión de máscaras carece de un mecanismo de corrección de errores durante la decodificación, por lo que es fácil afectar la calidad de la generación debido a la acumulación de errores tempranos. Al introducir un mecanismo de reenmascaramiento de deriva de confianza que no requiere entrenamiento, el algoritmo CoDR significa que la investigación sobre modelos de lenguajes de gran difusión está pasando del diseño de arquitectura simple a la corrección dinámica de errores y la optimización de la inferencia en el proceso de generación.