主题
全部
模型
智能体
机器人
AI 基础设施
芯片
开源
研究
企业
融资
产品
政策
安全
AI 应用
创作者
信源
主题
全部
模型
智能体
机器人
AI 基础设施
芯片
开源
研究
企业
融资
产品
政策
安全
AI 应用
创作者
← 返回时间线
关于 METASTONE 的报道
共 1 篇相关报道
量子位
媒体
80
AIHOT
|
PCIe显卡被低估了!内核补齐+通信重构,DeepSeek推理吞吐翻近7倍
AI 洞察
展开 AI 洞察
AI推理竞争正从硬件性能比拼转向软件优化,METASTONE的Meta-Infer高效部署引擎通过纯软件优化手段提升DeepSeek-V4.1-Flash在PCIe-Only显卡环境下的吞吐至5850 tok/s。
核心结论
AI推理竞争正从硬件性能比拼转向软件优化。
为什么重要
软件优化可以提高GPU卡的推理能力,降低成本,扩大应用范围。
影响谁
潜在受益
GPU卡
软件优化可以提高GPU卡的推理能力。
潜在受益
METASTONE
Meta-Infer高效部署引擎可以提升DeepSeek-V4.1-Flash的吞吐。
后续看点
后续应观察Meta-Infer高效部署引擎的进一步优化和应用。
大模型
AI推理
重要度
80
/100
涉及实体
DeepSeek
PCIe
GPU
METASTONE