从 Token 到能量弹性：面向 LLM 推理负载数据中心的量化需求响应（中英对照精读版）

From Tokens to Energy Flexibility: Quantization-Enabled Demand Response for Data Centers with LLM Inference Workloads —— 电力系统 × AI 算力 × 需求响应 论文精读材料
📄 原文：arXiv:2606.18851 🗓️ 2026年6月17日发布 🏫 arXiv 预印本 ✅ 一句话主题：模型量化＝数据中心参与需求响应的新「弹性杠杆」 🔊 附英文摘要朗读音频

一、论文档案

英文标题From Tokens to Energy Flexibility: Quantization-Enabled Demand Response for Data Centers with LLM Inference Workloads
中文标题从 Token 到能量弹性：面向 LLM 推理负载数据中心的量化赋能需求响应
作者Bojun Du, Xiaoyi Fan, Ershun Du, Long Chen, Jianpei Han, Qingchun Hou, Ning Zhang, Chongqing Kang
发布时间2026年6月17日（v1）｜分类：eess.SY（系统与控制）
原文链接arxiv.org/abs/2606.18851　·　全文 HTML 版（CC BY 4.0 开放获取）
一句话概括把 LLM 模型量化变成「可调度的精度旋钮」参与需求响应，数据中心总成本降 34.3% 且不掉 token。
💡 为什么选这篇给你：① LLM 推理是未来电网最大的新增负荷之一，「算力 × 电力」是最热交叉方向；② 不堆复杂数学，核心思想一句话就能讲清——「精度也可以当调度资源」；③ 作者团队是国内电力系统优化领域的一线研究者；④ 让你看懂 AI 数据中心如何从「电网负担」变成「电网伙伴」。

二、核心术语表（先扫一遍再读正文）

英文术语中文大白话解释
demand response (DR)需求响应电网紧张时，用户主动调整用电方式帮电网减负，通常还能获得补偿。
LLM inference大语言模型推理模型收到问题后逐 token 生成回答的过程，是数据中心耗电的大头。
token词元LLM 处理文本的最小单位；生成一个 token 就要做一次数值计算，所以「服务多少 token」≈「耗多少电」。
model quantization模型量化把模型权重从 16 位精度压到 8 位 / 4 位，省内存、省算力、省电，精度损失很小且可调。
temporal / spatial workload shifting时间 / 空间负荷转移把计算任务推迟做（时间），或搬到电价更低、电网更宽松的园区做（空间）。
grid-responsive电网响应型能根据电网状态（电价、供需、碳信号）主动调节自身用电的设备或系统。
quantization-to-power mapping量化—功率映射把「模型 + 量化精度」的配置翻译成功率系统能调度的参数（容量、功耗、服务质量等）。
dispatchable parameters可调度参数调度员（或优化模型）能直接操作、按需调整的量。
model instance switching模型实例切换在 GPU 上加载/卸载不同精度的模型实例，切换服务配置。
QoS degradation服务质量下降量化带来的回答质量轻微损失；本文把它当作「可控、有界」的代价。
multi-campus co-optimization多园区协同优化多个数据中心园区一起优化，统筹考虑负载路由、本地能源资产、电价与碳信号。
carbon signal碳信号电网发电的碳排放强度信息，用于引导用户在高碳时段少用电。
GPU occupancyGPU 占用率GPU 计算资源被任务占用的程度，影响吞吐与单位能耗。
batching / parallel serving批处理 / 并行服务把多个请求打包一起算，提高硬件利用率、摊薄单位 token 能耗。

三、摘要中英对照（精读核心）

🎧 音频在文末，可先听一遍原文再读；每个英文句都配了逐句翻译。

摘要 Abstract

EN · 原文
The rapid growth of large language model (LLM) inference is creating significant data-center loads that face increasing energy-management challenges under tightening grid conditions and demand response (DR) requirements.
CN · 翻译
大语言模型（LLM）推理的快速增长正在形成可观的数据中心负荷；在电网条件趋紧、需求响应（DR）要求不断提高的背景下，这类负荷面临越来越严峻的能源管理挑战。
EN · 原文
Conventional data-center energy management mainly relies on temporal and spatial workload shifting and campus-level energy asset scheduling, but it usually treats LLM inference demand as an aggregate load.
CN · 翻译
传统数据中心能源管理主要依赖时间与空间上的负荷转移以及园区级能源资产调度，但它通常把 LLM 推理需求当作一个聚合负荷来处理。
EN · 原文
As a result, these approaches fail to exploit the internal characteristics of LLM serving and therefore overlook the flexibility offered by LLM-specific techniques such as model quantization.
CN · 翻译
因此，这些方法无法利用 LLM 服务的内在特性，也就忽视了模型量化等 LLM 特有技术所提供的灵活性。
EN · 原文
To unlock this flexibility, this paper proposes a quantization-enabled energy management framework for grid-responsive LLM inference data centers.
CN · 翻译
为释放这一灵活性，本文面向电网响应型 LLM 推理数据中心，提出了一种量化赋能的能源管理框架。
EN · 原文
First, a quantization-to-power model is established to map each model--quantization configuration to a compact set of dispatchable parameters.
CN · 翻译
首先，建立「量化—功率」映射模型，把每一种「模型—量化配置」映射为一组紧凑的可调度参数。
EN · 原文
Second, a two-stage quantization-enabled DR model is developed to account for model instance switching, request routing, and precision selection.
CN · 翻译
其次，开发两阶段量化赋能需求响应模型，统筹刻画模型实例切换、请求路由与精度选择。
EN · 原文
Third, a multi-campus co-optimization method is introduced for DR participation by integrating grid-side electricity and carbon signals with the quantization-enabled DR model.
CN · 翻译
第三，提出多园区协同优化方法：把电网侧电价与碳信号接入量化赋能的需求响应模型，支撑数据中心参与需求响应。
EN · 原文
Case studies show that the proposed framework reduces total data-center operating cost by 34.3% without curtailing served token volume, validating model quantization as an effective flexibility lever for grid-responsive LLM data-center energy management.
CN · 翻译
案例研究表明，该框架在不削减所服务 token 总量的前提下，使数据中心总运行成本降低 34.3%，验证了模型量化是电网响应型 LLM 数据中心能源管理中一种有效的弹性杠杆。

领域关键词 Keywords：LLM Inference 大模型推理 ｜ Model Quantization 模型量化 ｜ Demand Response 需求响应 ｜ Multi-Campus Co-optimization 多园区协同优化

四、引言精选（为什么这个问题重要）

① 算力狂飙：数据中心的电从哪来

EN · 原文
The rapid expansion of artificial intelligence (AI) data centers is driving a steep increase in electricity demand. The International Energy Agency projects global data-center electricity consumption to more than double to roughly 945 TWh by 2030, with accelerated AI servers driving most of the growth [20]. Within this surge, large language model (LLM) inference is becoming a major driver, prompting providers to build inference-oriented data centers at unprecedented scale. For instance, OpenAI's Stargate program targets 10 GW of dedicated AI compute capacity by 2029, with over 5 GW already under development across multiple U.S. sites [38].
CN · 翻译
人工智能（AI）数据中心的快速扩张正推动电力需求陡增。国际能源署（IEA）预计，到 2030 年全球数据中心用电量将翻倍以上、达到约 945 TWh，其中加速型 AI 服务器贡献了大部分增长 [20]。在这一激增中，LLM 推理正成为主要驱动力，促使供应商以前所未有的规模建设推理型数据中心。例如，OpenAI 的 Stargate 计划到 2029 年建成 10 GW 专用 AI 算力，其中超过 5 GW 已在美国多地开工建设 [38]。

② 传统数据中心节能的「三板斧」，为什么不够用

EN · 原文
To address the supply and cost pressures, conventional data-center DR and energy-management studies mainly exploit flexibility from three perspectives: temporal shifting, spatial shifting, and campus energy management. ... However, these approaches mainly reshape data-center demand from outside the inference service. They still treat LLM inference as aggregate power demand and do not model how requests are served inside GPU clusters. As a result, they cannot fully exploit the internal flexibility of LLM inference workloads.
CN · 翻译
为应对供电与成本压力，传统的数据中心需求响应与能源管理研究主要从三个角度挖掘灵活性：时间转移、空间转移与园区能源管理。……然而，这些方法主要是在「推理服务之外」重塑数据中心的需求：它们仍把 LLM 推理当作聚合功率需求，并不建模 GPU 集群内部请求是如何被服务的。因此，它们无法充分利用 LLM 推理负载内部的灵活性。

③ 钻进 GPU 集群内部：一个请求的耗电是怎么来的

EN · 原文
An LLM inference workload consists of requests served by resident model instances on GPU servers. Each request occupies GPU resources, accesses model weights and runtime states in memory, and performs token-by-token numerical computation to generate the response. Therefore, the energy consumption of LLM inference is jointly shaped by hardware power characteristics, device utilization, GPU memory occupation, and the amount of numerical computation [40, 35, 7].
CN · 翻译
一个 LLM 推理负载，由 GPU 服务器上常驻模型实例所服务的请求组成。每个请求占用 GPU 资源，在内存中读取模型权重与运行时状态，并逐 token 执行数值计算以生成回答。因此，LLM 推理的能耗由硬件功率特性、设备利用率、GPU 内存占用与数值计算量共同决定 [40, 35, 7]。

④ 量化：省电，还是一条被忽视的「弹性」

EN · 原文
A primary approach to numerical-precision control is model quantization. It represents the 16-bit weights of trained LLMs with lower-bit formats, thereby reducing memory footprint and computation cost [13]. This coarser representation significantly lowers per-token energy consumption, while introducing a small and tunable accuracy loss [29]. Thus, quantization has become a mainstream tool in the LLM community, with 8-bit and 4-bit methods serving as practical deployment options [15, 30, 24].
CN · 翻译
数值精度控制的主要手段是模型量化：用更低比特格式表示已训练 LLM 的 16 位权重，从而降低内存占用与计算成本 [13]。这种更粗略的表示能显著降低单 token 能耗，同时只带来微小且可调的精度损失 [29]。因此，量化已成为 LLM 社区的主流工具，8 位与 4 位方法是实际部署中的常见选项 [15, 30, 24]。
💡 这是全文最有味道的一句话（研究空白）：「to the best of our knowledge, numerical-precision control has not yet been modeled or optimized as an IT-side flexibility lever for grid-responsive data-center energy management.」别人都在调度「任务什么时候做、在哪里做」，这篇论文却问——能不能调度「模型算得多精细」？把 AI 社区习以为常的量化，重新定义成电力系统资源，这就是科研的「重新定义问题」。

五、论文贡献与方法要点

① 论文贡献（原文摘录）

EN · 原文
The quantization-to-power mapping model is established for LLM inference data centers. Specifically, a parameterized modeling framework is developed to convert LLM quantization configurations into power system scheduling parameters, including instance capacity, power consumption, service quality degradation, and switching cost.
CN · 翻译
面向 LLM 推理数据中心建立「量化—功率」映射模型。具体而言，开发了一个参数化建模框架，把 LLM 量化配置转换为电力系统调度参数，包括实例容量、功率消耗、服务质量退化与切换成本。

② 方法要点（其余两步 + 关键结果，摘自摘要）

EN · 原文
2. Two-stage quantization-enabled DR model. Second, a two-stage quantization-enabled DR model is developed to account for model instance switching, request routing, and precision selection.
CN · 翻译
2. 两阶段量化赋能需求响应模型。统一刻画模型实例切换、请求路由与精度选择三类决策及其耦合关系。
EN · 原文
3. Multi-campus co-optimization. Third, a multi-campus co-optimization method is introduced for DR participation by integrating grid-side electricity and carbon signals with the quantization-enabled DR model.
CN · 翻译
3. 多园区协同优化。把电网侧电价与碳信号接入量化赋能的需求响应模型，多个园区联合参与需求响应。
EN · 原文
4. Key result. Case studies show that the proposed framework reduces total data-center operating cost by 34.3% without curtailing served token volume.
CN · 翻译
4. 关键结果。案例研究显示：框架使数据中心总运行成本降低 34.3%，且不削减所服务的 token 总量。

六、结论中英对照

EN · 原文
This paper introduced LLM quantization as an IT-side flexibility lever for grid-responsive LLM data-center energy management, resolving inference flexibility down to the model-instance level. The proposed framework consists of a quantization-to-power mapping, a two-stage DR model, and a multi-campus co-optimization method.
CN · 翻译
本文将 LLM 量化引入电网响应型数据中心能源管理，作为IT 侧的弹性杠杆，把推理灵活性细化到模型实例级。所提框架由「量化—功率」映射、两阶段需求响应模型与多园区协同优化方法三部分组成。
EN · 原文
Case studies based on real-world data lead to three conclusions. First, quantization provides a distinct and additive flexibility lever. Enabling quantization further reduces the total cost by 20.8% beyond conventional model switching and spatial flexibility, and its benefit remains positive under all tested workload and price conditions.
CN · 翻译
基于真实数据的案例研究得出三点结论。第一，量化是一条独立且可叠加的弹性杠杆：在传统「模型切换 + 空间灵活性」的基础上，启用量化还能再降低总成本 20.8%，且在所有测试的负载与电价条件下收益都为正。
EN · 原文
Second, this benefit is achieved without reducing the served token volume. The framework routes requests to lower precision only when electricity cost and DR value justify the bounded quality loss.
CN · 翻译
第二，这一收益不以削减服务 token 量为代价：只有当电价成本与需求响应价值「值得」承受有界的质量损失时，框架才会把请求路由到更低精度。
EN · 原文
Third, IT-side and energy-side flexibility reinforce each other. By reducing the underlying inference load, quantization enables limited on-site assets to cover a larger share of campus demand during DR events. Its relative value is therefore expected to grow for the large and sustained inference loads of future LLM data centers.
CN · 翻译
第三，IT 侧与能量侧的弹性相互增强：量化降低了底层推理负荷，使园区有限的本地资产（储能、光伏等）在需求响应事件中能覆盖更大比例的用电。因此，对于未来 LLM 数据中心庞大而持续的推理负载，量化的相对价值预计还会增长。

七、编者解读：这篇论文到底讲了什么（大白话版）

  1. 问题：AI 数据中心用电暴涨——IEA 预计 2030 年全球数据中心用电量翻倍到约 945 TWh，OpenAI 的 Stargate 计划 2029 年前建 10 GW 专用算力。电网紧张时，这些「电老虎」必须参与需求响应。
  2. 传统做法：时间上推迟批处理任务、空间上把任务搬到电价低的园区、园区里协调储能光伏——三板斧都默认 LLM 推理是「一个整体负荷」，从没钻进 GPU 集群内部看请求怎么被服务。
  3. 这篇的做法：把模型量化（16 位权重压成 8/4 位）当成 IT 侧的「弹性旋钮」：① 建「量化—功率」映射；② 两阶段需求响应模型（管实例切换、请求路由、精度选择）；③ 多园区协同优化（叠加电价与碳信号）。
  4. 结果：案例研究显示总运行成本降 34.3%，且服务的 token 量一个不少；在传统「模型切换 + 空间灵活性」之上还能再省 20.8%，所有测试工况下收益均为正。
  5. 最值钱的观点：量化不只是省内存、省电的「工程技巧」，而是一种可以按需开关的需求侧弹性资源；IT 侧弹性和能量侧弹性还会互相增强——基础负荷降了，园区有限的储能光伏就能覆盖更大比例的用电。
  6. 值得注意的边界：降精度换取收益是有条件的——只有电价和需求响应价值「值得」时才会触发；这是「以服务质量换灵活性」的显式权衡，而不是免费午餐。
🎯 对保研的启示：「算力 × 电力」是当下最缺人手的交叉地带。电气学生如果懂一点 LLM 推理的底层（token、权重、GPU），就能在这个交叉口找到大量课题；面试时能聊清「数据中心参与需求响应的三种调度尺度（任务/地点/精度）」，会非常出彩。

八、阅读路线图 & 延伸方向

📖 怎么读这篇论文（三遍法）

  1. 第一遍（10 分钟）：只读摘要和术语表，回答三个问题——问题是什么？方法是什么？结果是什么？
  2. 第二遍（20 分钟）：读引言 + 结论，重点体会「为什么重要」和「结论的边界」。
  3. 第三遍（30 分钟）：读方法与实验的文字部分，跳过所有公式和编号，只看文字描述；遇到不懂的术语回查术语表。

🚀 这个方向你能延伸做什么

九、英文摘要朗读（练听力用）

先盲听一遍→再看对照稿→再听一遍。目标是听出每个数字（34.3%、20.8%、945 TWh、10 GW）和术语（quantization、demand response、token）。