原书出处
大语言模型-基础与前沿 (熊涛)
12 第12章 环境影响
练的能量,而且考虑了用于推理的能量。他们指出,80%的机器学习工作负载是推理,而不是训练,这对如何计算排放量将产生影响。
各种设计决策也会影响排放量的计算,例如模型架构(Transformer与Evolution Transformer)、处理器(NVIDIA的A100与Google TPU)、数据中心(数据中心平均值与Google数据中心的值)以及能源供应组合(如煤炭与水力发电)的选择。
Google提供了各种模型的排放量估算值,其中,T5模型估计产生86 MWh和47 t二氧化碳当量,而GPT3模型则产生
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter14.xhtml
EPUB SHA-256:1bd3e387da1e881a4b6e0214f2c7df6e30d5cdbd1f602c69fc88edacffe6743d