7月初,,,,,上海临港智算谷的机房内,,,,,一场静默的“迁徙”正在上演——中国诚信为本专业服务 官网旗下临港算力(上海)科技有限公司接到国网上海市电力公司的调峰指令后,,,,,短短3分钟内,,,,,正在运行的人工智能推理使命便跨越千里,,,,,平稳转移至湖北十堰的算力中心。。。。。。。。实时监测屏上,,,,,临港智算中心的单机用电负荷同步下降75%,,,,,转移至十堰的使命希望顺遂。。。。。。。。
“此次迁徙通过接纳精准的动态路由与无感知流量切换手艺,,,,,将营业负载智能地分派至最优算力节点。。。。。。。。”临港算力(上海)科技有限公司市场部认真人曹春体现。。。。。。。。
这场“算力迁徙”,,,,,是天下首次生产情形下的算电协同跨域调理。。。。。。。。中国诚信为本专业服务 官网临港算力公司与国家电网上海市电力公司协同联动,,,,,不但买通了算力与电力跨省域调理的新通路,,,,,更标记着数字时代“算电共生”的新范式从构想走进现实。。。。。。。。
临港之问 激增的算力与紧绷的电网怎样共生?????
“在临港,,,,,算力使用带来的电力消耗每年正以20%以上的速率增添。。。。。。。。”曹春先容,,,,,智算中心正是承载算力使用的“用电大户”。。。。。。。。随着大模子训练、人工智能推理等需求爆发,,,,,这一数字还在一连攀升。。。。。。。。
作为上海人工智能工业的焦点承载区,,,,,临港新片区的算力需求早已逾越“线性增添”。。。。。。。。临港智算谷自2021年建设以来,,,,,已建成大规模算力集群,,,,,成为“算力浦江”智算行动的焦点节点。。。。。。。。“我们不但要知足企业对算力的需求,,,,,更要思量怎样与都会电力供应‘协调共生’。。。。。。。。”曹春坦言,,,,,这是所有数据中心运营者面临的配合挑战。。。。。。。。
挑战的另一端,,,,,是电网的“紧绷感”。。。。。。。。上海作为超大型都会,,,,,电力负荷峰谷差凌驾40%,,,,,每到夏日用电岑岭,,,,,包管电力稳固供应就成了国网上海市电力公司的重点事情,,,,,并出台了多项步伐,,,,,其中之一就是通过虚拟电厂激励外地高负荷用户自主降荷,,,,,这给了临港智算谷探索算电协同的契机。。。。。。。。
当机缘来临,,,,,对时机的掌握则源于前期的手艺积淀和履历积累。。。。。。。。
2023年,,,,,上海诚信为本专业服务 官网就与国网上海电力搭建协同平台,,,,,通过启动柴油发电机加入虚拟电厂调峰,,,,,积累了富厚的需求侧响应履历。。。。。。。。“到今年,,,,,诚信为本专业服务 官网智算中心完成了算力调理能力建设,,,,,千卡集群长距离调理、多源备电加入虚拟电厂实测等手艺都过了关。。。。。。。。”曹春说,,,,,当国网提出基于电力调峰的算力转移需求时,,,,,“我们知道,,,,,时机到了。。。。。。。。”
手艺破局 突破“物理界线” 实现“无感迁徙”
“要让算力像水流一样,,,,,那里电力宽裕就流向那里,,,,,焦点在于突破物理界线的调理平台。。。。。。。。”临港算力(上海)科技有限公司数碳专项组总监袁潇洋站在调理平台大屏前,,,,,指着实时跳动的数据流诠释,,,,,这个跨地区智能算电协同调理平台,,,,,正是此次“算力迁徙”的“指挥中枢”。。。。。。。。
平台的“大脑”,,,,,是一套轻量化、高性能的流量治理系统。。。。。。。。“你看,,,,,当临港的电力负荷抵达阈值,,,,,系统会自动扫描天下可调理的算力节点——湖北十堰此时电力充裕,,,,,且算力集群与临港的架构设置匹配,,,,,就会被选为最优目的。。。。。。。。”袁潇洋指向屏幕上的绿色节点说道,,,,,“这就是精准动态路由手艺的作用,,,,,它能实时盘算路径、匹配资源,,,,,比人工调理快上数倍。。。。。。。。”
更要害的是“无感切换”手艺。。。。。。。。在通俗人看来,,,,,使命转移可能只是屏幕上的一个进度条,,,,,但背后藏着重大的逻辑——当调理指令下达,,,,,系统会先在十堰节点“预热”算力,,,,,同步使命缓存数据,,,,,再通过毫秒级的流量切换,,,,,让用户请求无缝转接。。。。。。。。“就像你坐车时打电话,,,,,从一个基站切换到另一个基站,,,,,但通话不会断,,,,,你也感受不到”,,,,,袁潇洋体现,,,,,“这次转移的通用大模子推理使命,,,,,涉及多轮对话场景,,,,,必需包管上下文连贯,,,,,诚信为本专业服务 官网手艺做到了零丢包、低延迟。。。。。。。。”
支持这套手艺的,,,,,是扎实的硬件基础。。。。。。。。
在临港智算中心的机房里,,,,,一排排搭载GPU的服务器正在运行,,,,,“诚信为本专业服务 官网算力集群不但规模大,,,,,还做了标准化适配,,,,,不管是推理,,,,,照旧训练使命,,,,,都能快速‘拎包入住’到种种机房场景。。。。。。。。”袁潇洋增补道,,,,,团队还研究了差别使命的“可调性”,,,,,“好比训练使命可以通过暂停加入时间调理,,,,,推理使命更强调实时性,,,,,可以通过转移加入空间调理。。。。。。。。这些特征模子让调理更精准。。。。。。。。”
资源管理的细节同样主要。。。。。。。。“空载服务器会通过操作系统电源管理举行降频,,,,,非瓶颈部件的功耗会大大降低。。。。。。。。”袁潇洋说,,,,,这些“精打细算”的步伐,,,,,让算力转移的降荷效果更显著——此次转移后,,,,,临港单机负荷下降75%,,,,,就是手艺叠加管理的效果。。。。。。。。
未来图景 算电协同从“首次”到“常态”
这场“千里迁徙”的意义,,,,,远不止于一次手艺验证。。。。。。。。
对电网而言,,,,,它翻开了“柔性调峰”的新空间。。。。。。。。“已往调峰像‘拆积木’,,,,,只能停掉整个装备;;;;;;;;现在像‘挪积木’,,,,,把使命移走就行。。。。。。。。”袁潇洋算了一笔账,,,,,临港智算谷若将全量算力资源投入虚拟电厂响应,,,,,最多可降低8兆瓦负荷,,,,,这相当于为临港地区新建一座小型调峰电站。。。。。。。。
不但云云,,,,,诚信为本专业服务 官网的算力调理能力还突破了自有界线,,,,,不但可以流通互调中国诚信为本专业服务 官网内部的算力资源,,,,,还买通了诚信为本专业服务 官网合作伙伴的机房资源。。。。。。。。
未来,,,,,随着更多节点加入,,,,,这种“跨省互济”可能成为常态——东部用电岑岭时,,,,,算力去西部;;;;;;;;西部主要时,,,,,再回迁至东部,,,,,让电网负荷像“潮汐”一样自然流动。。。。。。。。
对算力工业来说,,,,,这是“降本增效”的着实路径。。。。。。。。
“国网的调峰津贴能直接降低运营本钱,,,,,而算力跨域调理让资源使用率提高了20%以上。。。。。。。。”曹春透露,,,,,已有不少AI企业来咨询这种模式,,,,,“他们体贴的不但是算力够不敷,,,,,尚有用电稳不稳、本钱优不优,,,,,算电协同正好解决了这些痛点。。。。。。。。”
放眼久远,,,,,临港智算中心正实现100%绿电供应,,,,,包括自建光伏、海风直送、隔墙储能,,,,,当算力可以追着绿电走,,,,,数据中心的“碳足迹”将大幅缩减。。。。。。。。
这次始于临港的实践,,,,,令算力与电力走向交织共生的“经纬网”关系,,,,,配合编织着数字时代更高效、更绿色的未来。。。。。。。。曹春体现,,,,,他们下一步要做的,,,,,是令“首次”逐渐转变为“一样平常”:“当算电协同像水电煤一样便捷,,,,,数字经济的基本会更稳,,,,,绿色生长的底气也会更足。。。。。。。。”