Noticias sobre PTQ

SCULPT traslada la facilidad de cuantificación del enlace de reparación posterior al entrenamiento a la etapa de entrenamiento ordinaria de FP32, lo que significa que la estructura de costos de la implementación de la cuantificación puede cambiarse. Desafía el camino tradicional de "debe usar QAT si desea una precisión de bits baja", lo que permite que los modelos de borde estén preparados para la cuantificación y, al mismo tiempo, mantiene el proceso de capacitación simple.

QTEA combina una importante compensación de peso residual con una escasez semiestructurada de 1:4, lo que significa que la cuantificación de bits extremadamente bajos está pasando de una simple compresión al codiseño de algoritmo y hardware. Su optimización de reescalado por columnas muestra que incluso en una escala inferior a 2 bits, la recuperación de la precisión todavía depende de una compensación numérica detallada en lugar de solo de la escasez.