上海调度平台:降低AI企业算力成本,繁荣大模型创新生态
AI导读:
上海仪电牵头建设上海市智能算力资源统筹调度服务平台,旨在降低人工智能中小企业创新成本,通过精准匹配供需、融合调度资源,支撑和繁荣上海大模型创新生态。平台涵盖算力超市、算力纳管、算力融合等功能,已吸引多家创新企业和算力合作伙伴加入。
为降低人工智能中小企业创新成本,在上海市经济信息化委指导下,上海仪电牵头建设上海市智能算力资源统筹调度服务平台(以下简称“上海调度平台”),该平台旨在通过精准匹配供需、融合调度资源,支撑和繁荣上海大模型创新生态。
上海调度平台涵盖算力超市、算力纳管、算力融合三大核心功能板块。算力超市旨在“构建算力交易生态,推动供需多边交易”,包括算力产品商城、算力招标市场两部分。算力纳管则负责“汇总监测、计费、资源统计等数据,实现算力统筹调度”,涵盖交易直连、监控计费数据上报、可视化数据分析等功能。算力融合专注于异构异域算力资源的管理和调度,包括算力调度、任务调度、算力补贴闭环管理。
近日,上海仪电主办的“智算擎产业·垂类启新章”专场活动上,上海市智能算力资源统筹调度服务平台生态合作伙伴与算力合作伙伴共建签约仪式圆满举行。智算科技携手云赛智联、无问芯穹等9家创新企业,以及上海电信、阿里云等8家算力合作伙伴,共同签署了平台生态合作联盟和算力合作伙伴协议。
智算科技总经理孙跃表示,Deepseek的成功彰显了创新生态对产业发展的关键作用。作为国资功能性平台企业,智算科技致力于支撑基础大模型发展,服务中小微企业和垂类应用。上海调度平台旨在汇聚全社会闲散算力资源,以低成本、普惠化算力推动生态创新,支撑中小企业、开源社区及个人开发者的研究探索。在市经信委等政府部门的指导下,平台将进一步调度算力资源,解决供需匹配问题,提高算力使用效率,降低企业创新成本。
通用或行业大模型的研发、训练和部署均需要大量算力支持,这对中小企业和初创企业而言是一笔不小的开销。
“降低企业算力成本将激发更多创新活力。我们期望通过上海调度平台进一步降低成本,更精准匹配供需,融合调度多方算力资源,支撑大模型生态发展。这涉及算力供给企业和参与平台技术开发的企业。”孙跃说道。
谈及大模型引发的算力需求激增,孙跃指出,自百模大战以来,2023至2024年间训练算力占据算力需求的主导地位。随着大模型向不同垂类行业渗透,推理需求也迅速增长。“这一趋势明显且重要,如DeepSeek采用自我博弈和多轮强化学习实现优化,训练过程中需大量推理算力。”
春节期间,DeepSeek在全球范围内迅速走红,孙跃感受到各行业积极接入DeepSeek平台,进一步推动了对推理算力的需求。
“需明确的是,算力需求是训推结合的市场,而非简单划分为训练算力和推理算力。训练算力仍有需求,且趋势显示算力符合规模效应,持续增长。但行业应用的拓展将带动推理需求的快速增长。”孙跃强调。
Deepseek大模型的成功非但未对算力构成利空,反而促进了算力需求的增长。
“DeepSeek凭借强大的工程能力提高了算力使用效率,但前提是必须有足够算力,提升效率才有意义。DeepSeek大模型的出现并未降低算力的重要性。因此,智算中心需提升整体资源统筹调度和服务能力。正在建设的上海调度平台旨在整合运营商、云厂商等算力资源,提高使用效率,实现资源优化调配。”孙跃认为。
据悉,上海仪电已投产多个“大规模、高等级”万卡智算集群,并计划进一步扩大算力规模,以符合产业发展趋势,更好地支撑上海及长三角地区的创新生态,服务企业、科研机构的算力需求。
在集群建设方面,仪电智算云率先实现对国产智算芯片的异构纳管,全面支持沐曦、壁仞等智算芯片的软硬件适配。在算力效率方面,支持容器化调度和大模型自动续训,有效训练时间占比达99%以上。在应用部署方面,支撑了阶跃星辰Step、DeepSeek等大模型的高效部署和加速,并内置“一站式”模型研发平台。
“国产芯片与英伟达的主要区别在于软件生态。这不仅是芯片企业的责任,我们也希望发挥平台作用,整合上下游软硬件,打造全栈国产生态,更好地服务大模型行业。”孙跃表示。
(文章来源:科创板日报)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。