Metal に関する報道

Perplexity は、Apple Silicon 上の Qwen モデル用に特別に構築された、Rust + Metal に基づくクライアント側推論エンジンである Lily をオープンソース化しました。これは、一般的な推論フレームワークに加えて、特定のハードウェアとモデルの組み合わせに対する「極端なカスタマイズ」が、エッジ側のパフォーマンスの上限を突破する効果的な方法になりつつあることを意味します。