Noticias sobre LFM2.5-24B-A2B

LFM2.5-24B-A2B a través de un diseño de bajos parámetros de activación logra un alto rendimiento y baja latencia en el dispositivo, lo que significa que la arquitectura del modelo está profundizando hacia la dirección de inferencia eficiente de "gran cantidad total de parámetros, pocos parámetros de activación". Este diseño equilibra la capacidad de razonamiento complejo con las restricciones de potencia de cálculo del hardware de borde, acelerando la implementación local de agentes de IA.

El modelo LFM2.5-24B-A2B de Liquid AI es un modelo de lenguaje de gran tamaño híbrido de 24B con 2B de parámetros activos, de código abierto. Este modelo está dirigido a agentes locales y obtuvo una puntuación de 48,09 en LiveClaw y una velocidad de descodificación de 184 tokens/segundo en Apple M5 Max. El lanzamiento del modelo LFM2.5-24B-A2B puede impulsar el desarrollo y la aplicación de agentes locales, ya que proporciona capacidad de inferencia de alto rendimiento.

LFM2.5-24B-A2B es un nuevo modelo de razonamiento capaz de ejecutar un agente de IA rápido y privado directamente en el dispositivo. Este modelo está diseñado para lograr respuestas rápidas y un bajo consumo de energía, con un potencial valor de aplicación, especialmente en áreas como hogares inteligentes, dispositivos wereables inteligentes y vehículos inteligentes.