Noticias sobre Lily

Perplexity ha abierto Lily, un motor de inferencia del lado del cliente basado en Rust + Metal, construido específicamente para el modelo Qwen en Apple Silicon. Esto significa que, además del marco de inferencia general, la "personalización extrema" para combinaciones específicas de hardware y modelos se está convirtiendo en una forma eficaz de superar el límite superior del rendimiento del borde.