你是否想过,在向 AI 模型发出提示或致谢时消耗了多少电力?Hugging Face 工程师 Julien Delavande 为此构建了一款工具来解答这一疑问。
AI 模型每次运行均依赖 GPU 及专用芯片执行大规模计算负载,能耗显著。尽管精准测算模型功耗颇具挑战,但业界普遍认为,随着 AI 技术普及度提升,未来几年电力需求将攀升至新高度。
支撑 AI 的庞大电力需求已促使部分企业采取对环境不友好的策略。Delavande 开发的工具旨在唤起公众对该问题的关注,并引发 AI 用户对能耗成本的思考。
“即便微小的节能措施,在数百万次查询中也能产生显著影响——模型选择或输出长度的差异可能导致重大的环境影响,”Delavande 及其团队在声明中指出。
⚡️ 你是否想过,每次向 ChatGPT 发送消息时会消耗多少能量?
我们刚刚构建了一个版本的 Chat UI,它可以实时显示你的消息消耗了多少能量。是否所有聊天机器人都应该显示这一点?
详情如下 👇 pic.twitter.com/tBL0Pw51PW
该工具专为开源前端 Chat UI(支持 Meta Llama 3.3 70B、Google Gemma 3 等模型)设计,可实时估算交互消息的能耗,并以瓦时或焦耳为单位呈现。同时,它还将模型能耗与微波炉、LED 灯等常见家用电器进行直观对比。
据估算,使用 Llama 3.3 70B 撰写一封典型邮件约消耗 0.1841 瓦时,相当于微波炉运行 0.12 秒或烤面包机工作 0.02 秒。
需注意的是,上述数据仅为估算值,并非绝对精确。但其核心价值在于提醒用户:包括聊天机器人在内的所有 AI 服务均存在隐性成本。
“通过 AI 能源评分项目及对 AI 能源足迹的深入研究,我们正推动开源社区的透明度建设。未来,能源使用情况有望像食品营养成分标签一样一目了然!”Delavande 及其共同创作者表示。

