Noticias sobre LLM Monitors

La supervisión actual de LLM CoT depende en gran medida de la respuesta final como ancla de verificación. El hecho es que las respuestas finales a las 24 trayectorias clave eran correctas pero hubo errores reales en el proceso de razonamiento. Esto significa que la exactitud de la respuesta no prueba la validez del razonamiento y el mecanismo de alineación basado en resultados puede enmascarar fallas estructurales en la lógica interna del modelo.