Articles sur DeepSeek-R1-Distill-Qwen-7B

L'article a révélé que la longueur de la chaîne de réflexion de DeepSeek-R1-Distill-Qwen-7B est environ deux fois plus longue que la probabilité de réponse est stable. La redondance varie d'une question à l'autre et la pénalité de longueur globale ne peut pas être supprimée. Les chercheurs ont proposé un « vecteur d'arrêt » pour construire la direction de la différence moyenne au niveau de la 18e couche et l'internaliser dans le poids afin d'obtenir un raisonnement raccourci à la demande. Par rapport aux punitions ou interventions externes précédentes, cette fois la découverte causale est solidifiée en poids, ouvrant une nouvelle voie à la compression du raisonnement non supervisé.