Articles sur ERR+

ERR+ propose un cadre RLVR en deux étapes, basé sur l'observation selon laquelle les trajectoires de raisonnement correctes présentent des baisses d'entropie symboliques plus fréquentes et plus importantes pendant la phase de réflexion, et utilise le signal d'entropie pour optimiser le processus de raisonnement lui-même. Par rapport au précédent RLVR qui reposait uniquement sur les récompenses d'exactitude, cette méthode utilise pour la première fois la diminution de l'entropie au niveau du jeton comme signal de récompense de processus, offrant une nouvelle direction pour l'optimisation de la qualité de l'inférence, mais son efficacité doit encore être vérifiée expérimentalement.