大模型热引发智能算力紧缺,外滩大会热议绿色计算

时间:2023-09-09 10:20:00       来源:199IT

今年以来,大模型产业呈井喷式发展。目前国内已有100多个大模型公开发布,加速了智能算力的稀缺,出现GPU“一卡难求”、“排队预定”的局面。

智能算力需求爆发,以及由此带来的能耗暴涨,产业如何应对? 9月7日举行的2023 inclusion·外滩大会《云原生时代的绿色计算论坛》上,来自政、产、学、研、用领域的嘉宾分享了新趋势下的发展方向。


【资料图】

目前,国内从政策上高度重视算力产业绿色化发展。上海通信管理局副局长贺丰提出,上海市围绕“算力浦江行动计划“展开绿色算力相关工作,并提出了加快绿色计算关键技术研发,提升数据中心资源利用率;加快数据中心的标准化度量和界定;加深产业协同,共筑绿色计算新生态的三点关键建议。

(图:上海通信管理局副局长贺丰发表致辞)

中国中小企业协会秘书长、国家发展改革委员会原气候司巡视员谢极表示,中国中小企业协会高度重视中小企业在绿色低碳经济方面的发展。协会联合上海有关单位联合发布《中小企业ESG信息披露指南》与《中小企业ESG星级评级》团体标准,推动广大中小企业绿色低碳转型、践行“绿色计算”、实现计算领域的“碳中和”。

蚂蚁集团提出要关注“端到端的绿色算力体系”,特别是算力应用阶段的计算绿色化,带动突破算效瓶颈,实现绿色协同发展,这一主张也得到参会嘉宾的高度认可。

端到端的绿色计算,即从电力生产、算力生产(包括智算中心建设商、硬件厂商、云厂商),到算力应用全产业环节的绿色计算。中国信通院在2023算力大会发布的《面向算力应用环节的计算绿色化白皮书》中提到,算力应用环节的绿色计算,是智能算效提升空间最大、收效最快,也是尚未被足够重视和仍需加强的部分。

在算力硬件基础设施层面,行业通过架构升级、降低数据中心能耗等措施获得了显著成果。中国移动研究院副院长段晓东表示,中国移动从“新互联、新算效、新存储、新平台、新节能”五大核心方面打造了新型智算中心,构建了标准统一、技术领先、兼容开放的智算底座,“面向智能算力爆发,需要通过开放、协作、普惠、共赢的方式构建算力网络,推动在未来智算时代构建更好的绿色节能算力基础“。

使用AI技术实现数据中心及相关产业的节能优化也是重要的实践方向。清华大学国强教授、智能产业研究院首席研究员刘云新与英特尔中国研究院首席科学家、学术合作中心总监张益民共同分享了最新成果,包含两个方向的核心赋能技术:高能效的智能计算系统和利用AI提质增效,继而打造面向“双碳”的智能计算平台,利用数据驱动的智能决策赋能产业的绿色化。

统计数据测算,在数据产生后,能被有效留存、使用进而发挥价值的比例仅为0.2%。大量数据无法有效产生业务价值,其瓶颈在于当前数据计算处理能力。对此,华中科技大学教授、中国计算机学会副理事长、IEEE Fellow金海从新型数据技术角度提出了近数据处理的三种模式:存储上移、算力下沉、分布扩展,为破解“存储墙”性能瓶颈提出了有效解法。展望未来,金海认为“以数据为中心的计算架构将成为革新大数据处理模式的趋势方向,这也将大大优化数据处理中的算力效率。”

(图:华中科技大学教授、中国计算机学会副理事长、IEEE Fellow金海发表主题演讲)

在大模型时代,科技公司处在算力紧缺的最前线。蚂蚁集团首席技术官、平台技术事业群总裁何征宇介绍,从CPU通算时代开始,蚂蚁集团就开始构建绿色高效的智能计算体系,形成了低碳算力选择、全局资源调度优化、工作负载优化、绿色监测评估四大核心能力,这将为智算时代的绿色计算提供“度量衡”。何征宇介绍,2022年,这套体系支撑了支付宝首页推荐日均30亿PV的算力智能调度,全年节约机器资源消耗41.4%。“AI大模型时代,技术下沉,新的优化空间被打开,底层软件栈的针对性优化应被关注。”

(图:蚂蚁集团首席技术官、平台技术事业群总裁何征宇发表主题演讲)

端到端的绿色计算需要产业上下游协作,共建绿色计算生态。中国电子技术标准化研究院集成电路测评中心主任,绿色计算产业联盟标准测试组组长任翔表示,通过绿色计算产业联盟汇集产业链上下游资源,能够有效推动标准创新、人才培养、国际合作以及技术产品研发和应用落地。

关注碳感知问题,并构建起绿色度量和评估方式,也是产业发展体系化的首要一步。阿里云IDC研发事业部总经理王朝阳、浪潮信息服务器产品线总经理赵帅、人保科技数据中心运营处主管朱佑虹,各自从绿色数据中心、硬件和数据处理等角度分享了不同见解,并建设性地提出了构建算力和碳排放的关联指标,为绿色计算实践进行有效度量提供了行业参考。

在外滩大会,算力作为数字化和深度智能化的底座,价值已得到认同。算力资源供不应求的大趋势下,通过软硬件协同,驱动智能算力突破瓶颈,已经成为行业共识。

关键词: