Articles sur LLM Monitors

La supervision actuelle du LLM CoT repose fortement sur la réponse finale comme point d'ancrage de la vérification. Le fait est que les réponses finales aux 24 trajectoires clés étaient correctes mais qu’il y avait de réelles erreurs dans le processus de raisonnement. Cela signifie que l’exactitude de la réponse ne prouve pas la validité du raisonnement et que le mécanisme d’alignement basé sur les résultats peut masquer des défauts structurels dans la logique interne du modèle.