トピック
すべて
モデル
エージェント
ロボティクス
AI インフラ
チップ
オープンソース
研究
エンタープライズ
資金調達
製品
政策
安全性
AI アプリケーション
クリエイター
情報源
トピック
すべて
モデル
エージェント
ロボティクス
AI インフラ
チップ
オープンソース
研究
エンタープライズ
資金調達
製品
政策
安全性
AI アプリケーション
クリエイター
← タイムラインに戻る
GPTQ に関する報道
関連記事 1 件
arXiv CS.LG
メディア
73
AIHOT
|
QTEA: 疎な残留突出重みと列ごとの最適化を備えた三元 LLM
QTEA: Ternary LLMs with Sparse Residual Salient Weight and By-Column Optimization
AI インサイト
AI インサイトを展開
QTEA は、大幅な重み残差補償と半構造化 1:4 スパース性を組み合わせています。これは、極低ビット量子化が単純な圧縮からアルゴリズムとハードウェアの協調設計に移行していることを意味します。列単位の再スケーリングの最適化は、2 ビット未満のスケールであっても、精度の回復がスパース性だけではなく、きめ細かい数値補正に依存していることを示しています。
重要度
60
/100
関連エンティティ
QTEA
PTQ
GPTQ