大数跨境

该工具可估算您的聊天机器人消息所消耗的电量

该工具可估算您的聊天机器人消息所消耗的电量 海外洞察
2025-04-24
1
导读:一位来自 Hugging Face 的工程师开发了一款开源工具,用于估算 AI 聊天机器人模型所消耗的能源。

你是否想过,在向 AI 模型发出提示或致谢时消耗了多少电力?Hugging Face 工程师 Julien Delavande 为此构建了一款工具来解答这一疑问。

AI 模型每次运行均依赖 GPU 及专用芯片执行大规模计算负载,能耗显著。尽管精准测算模型功耗颇具挑战,但业界普遍认为,随着 AI 技术普及度提升,未来几年电力需求将攀升至新高度。

支撑 AI 的庞大电力需求已促使部分企业采取对环境不友好的策略。Delavande 开发的工具旨在唤起公众对该问题的关注,并引发 AI 用户对能耗成本的思考。

“即便微小的节能措施,在数百万次查询中也能产生显著影响——模型选择或输出长度的差异可能导致重大的环境影响,”Delavande 及其团队在声明中指出。

⚡️ 你是否想过,每次向 ChatGPT 发送消息时会消耗多少能量?

我们刚刚构建了一个版本的 Chat UI,它可以实时显示你的消息消耗了多少能量。是否所有聊天机器人都应该显示这一点?

详情如下 👇 pic.twitter.com/tBL0Pw51PW

该工具专为开源前端 Chat UI(支持 Meta Llama 3.3 70B、Google Gemma 3 等模型)设计,可实时估算交互消息的能耗,并以瓦时或焦耳为单位呈现。同时,它还将模型能耗与微波炉、LED 灯等常见家用电器进行直观对比。

据估算,使用 Llama 3.3 70B 撰写一封典型邮件约消耗 0.1841 瓦时,相当于微波炉运行 0.12 秒或烤面包机工作 0.02 秒。

需注意的是,上述数据仅为估算值,并非绝对精确。但其核心价值在于提醒用户:包括聊天机器人在内的所有 AI 服务均存在隐性成本。

“通过 AI 能源评分项目及对 AI 能源足迹的深入研究,我们正推动开源社区的透明度建设。未来,能源使用情况有望像食品营养成分标签一样一目了然!”Delavande 及其共同创作者表示。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14239
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读46.0k
粉丝0
内容14.2k