Articles sur Metal

Perplexity propose Lily en open source, un moteur d'inférence côté client basé sur Rust + Metal, spécialement conçu pour le modèle Qwen sur Apple Silicon. Cela signifie qu'en plus du cadre d'inférence général, la « personnalisation extrême » pour des combinaisons spécifiques de matériel et de modèles devient un moyen efficace de dépasser la limite supérieure des performances côté périphérie.