Noticias sobre Diffusion Transformers
1 artículos relacionados
Aceleración de transformadores de difusión sin entrenamiento y con eficiencia de memoria con BaryCache
Memory-Efficient Training-Free Acceleration of Diffusion Transformers with BaryCache
AI InsightBaryCache propone un método de aceleración sin entrenamiento basado en la extrapolación del centro de gravedad. En comparación con la aceleración de caché existente, reduce los cálculos redundantes y evita un aumento en el uso de la memoria gráfica. El experimento cubre la generación de imágenes y videos. Esto significa que el tamaño del lote de inferencia ya no está limitado por la memoria de video de los estados intermedios almacenados en caché, lo que proporciona una nueva ruta para reducir el costo de la implementación de DiT.Importancia 68/100