Underdog Saluki 27B に関する報道

Underdog Saluki 27B は、2 ビットの極端な量子化によってモデル ボリュームを 7.89 GB に圧縮し、特定のタスクにおいてオリジナル バージョンを上回っています。これは、オープン ソース コミュニティが、完全精度モデルの包括的なスタッキングのみに依存するのではなく、正確な微調整を通じて、リソースに制約のある環境における大規模モデルの垂直機能の上限を模索していることを意味します。