Noticias sobre GLiClass

El enrutador SCX cambia la selección del modelo de una evaluación heurística o generativa a una clasificación ligera, lo que significa que está surgiendo una capa de "inteligencia de enrutamiento" independiente en la capa de inferencia. La escala de parámetros de 0.6B muestra que la selección eficiente de modelos se puede desacoplar de la inferencia del modelo, lo que proporciona una nueva herramienta para el equilibrio entre costo y calidad al implementar dinámicamente diferentes modelos por tarea.