ChatGPT每个查询的能源消耗

ChatGPT查询能耗

ChatGPT回答一个问题需要消耗多少电力?

Andrey Metelev在Unsplash上的照片

本文介绍了ChatGPT每个查询可能消耗的电力范围,并将其与其他两个大型语言模型(LLM)的实际能耗进行了比较。

这个研究有两个有趣的原因:

首先,如果组织知道ChatGPT回答一个问题需要多少电力,他们可以估计使用ChatGPT或类似服务(如OpenAI的LLM API)所带来的碳足迹。

对于超过5万家欧洲企业来说,这可能很快变得非常重要,因为即将出台的企业社会责任指令(CSRD)很可能会要求它们在管理报告中披露范围3的排放量 [1]。我预计像ChatGPT这样的服务将被归类为范围3,因为云计算被认为是范围3 [2]。我希望本文能够为您估计组织使用ChatGPT和类似服务的范围3排放量提供启示。

研究ChatGPT每个查询的能源消耗是有趣的另一个原因是,它可以使个人能够估计ChatGPT的总体电力消耗或碳足迹。因此,我希望这篇博文能够激励其他人发表类似的工作。

在本文的其余部分,术语“查询”和“请求”将互换使用。

作为VoAGI会员,您的会费的一部分将用于支付您阅读的作家,并且您可以完全访问每个故事…

kaspergroesludvigsen.medium.com

估计ChatGPT每个查询的电力消耗的方法

在本节中,我将介绍用于估计ChatGPT每个查询的电力消耗的方法。估计值基于两种不同的方法:

  1. 一种是我们估计ChatGPT所运行的硬件的总能源消耗,然后将其除以假设的每日查询次数
  2. 一种是我们使用报告的…