关于 Ollama 的报道
共 1 篇相关报道
GreenBench：Apple Silicon 上开源 LLM 推理的能源效率和碳足迹基准测试
GreenBench: Benchmarking Energy Efficiency and Carbon Footprint of Open-Source LLM Inference on Apple Silicon
AI 洞察GreenBench 首次为 Apple Silicon 统一内存架构提供 LLM 推理能效基准，测得 M4 Pro 推理时 CPU+GPU 封装功耗仅 0.47W。相比此前 Green AI 研究聚焦数据中心 GPU，本次将测量对象扩展到 Apple Silicon，填补本地推理碳足迹数据空白。核心结论LLM 推理能效测量首次覆盖 Apple Silicon 统一内存架构。为什么重要为边缘设备本地推理的环境成本提供可量化依据，影响绿色 AI 研究方向和低功耗部署选型。影响谁- AI 研究者获得 Apple Silicon 能效基线，可对比不同硬件架构的推理碳足迹。
- 开发者为在 Apple Silicon 上部署本地 LLM 提供功耗参考，优化低功耗场景设计。
- Apple其芯片能效优势得到第三方基准验证，增强本地 AI 竞争力。
- 绿色计算从业者扩展了 Green AI 评估范围，从数据中心延伸至端侧设备。
后续看点关注 GreenBench 是否扩展到更多芯片、模型规模及真实负载任务，以及功耗数据能否复现。重要度 70/100