Articles sur CRISP
1 articles liés
CRISP: Cliff-awaRe Input-adaptive Sparse Prefilling with Structural-Mass-Motivated Routing
AI InsightL’étape de pré-remplissage du raisonnement en contexte long a une complexité quadratique et devient un goulot d’étranglement informatique. CRISP contourne la surcharge indirecte des méthodes dynamiques d’attention clairsemée existantes en lisant directement les décisions de routage et en détectant les niveaux de qualité. Cela signifie que le coût d’infrastructure du raisonnement contextuel ultra-long devrait encore être réduit.Importance 60/100