Articles sur GreenBench
1 articles liés
GreenBench : analyse comparative de l'efficacité énergétique et de l'empreinte carbone de l'inférence LLM open source sur Apple Silicon
GreenBench: Benchmarking Energy Efficiency and Carbon Footprint of Open-Source LLM Inference on Apple Silicon
AI InsightGreenBench fournit pour la première fois la référence d'efficacité énergétique d'inférence LLM pour l'architecture de mémoire unifiée Apple Silicon. Il est mesuré que la consommation électrique du package CPU+GPU du M4 Pro pendant l’inférence n’est que de 0,47 W. Par rapport aux précédentes recherches sur l’IA verte axées sur les GPU des centres de données, cette fois l’objet de mesure a été étendu à Apple Silicon pour combler le manque de données d’inférence locale sur l’empreinte carbone.Importance 70/100