Future Tech

[转贴] 上线即满载,点军智算中心探索本土AI新基建的范式变革

Tan KW
Publish date: Fri, 31 May 2024, 10:43 PM
Tan KW
0 500,317
Future Tech

智东西(公众号:zhidxcom)
作者 | 程茜
编辑 | 漠影

数字经济时代,算力就是新质生产力。

如今为企业提供多元化算力资源、能实现算力资源合理分配的智算中心正快速发展,开始进入商业化落地加速期,目前,国内已经有超30个城市布局智算中心。

随着数字经济发展加速,大模型快速演进,对算力的性能和易用性提出了更高要求,对于算力融合、软硬件协同、成本优化等诸多特性的关注度也日益增高。

在此背景下,正在打造融合智算、超算、通用算力为一体的的多元算力高地和国家算力“中继站”的宜昌市,已建成运行了605PFLOPS的算力中心,华中区域规模最大、类型最全、传输最快的异构算力集群正在加速形成。

其中建成仅5个月,点军智算中心的300PFLOPS算力资源已经实现全消纳,与无问芯穹、爱奇艺、贝式计算、启智社区等多家头部互联网企业及行业大模型企业达成算力合作,带动算力生态协同发展。

上线即满载,点军智算中心探索本土AI新基建的范式变革

点军智算中心已经成为本土智算中心建设上线即满载的标杆案例,为业界驱动算力最大动能释放打了个样。

一、东数西算驶入快车道,点军智算中心打造行业样板

算力发展已经成为大数据时代科技发展的重要支柱,让算力资源成为一种像水和电一样的普惠公共基础资源迫在眉睫。

自2022年起,国家“东数西算”工程正式全面启动,在打通全国算力资源的基础上为各地发展带来新的增长动力。同年,湖北省响应东数西算战略,将“算力”写入大数据产业发展规划,明确在2025年建成全国领先的算力基础设施和重要的数据汇聚枢纽。

当下,算力发展与各行各业密切相关再加上大模型带来的突破性技术革命,使得算力资源能被合理、高效利用起来尤为关键,智能算力中心的基础设施建设已经成为通往数字时代的必由之路。

燧原科技创始人兼COO张亚林谈道,AI架构的发展与计算、模型大小、编程语言、时延、网络带宽、存储容量、存储带宽等密切相关。他认为,国产算力想要在每一个点实现突破,使得算力满足每一种需求,成为“全能七边形战士”难度很大。

因此,本土算力企业需要在其中找准适合自己的赛道。从整个AI架构和算法的演进来看,AI发展的每一个关键节点都会由算法驱动,这背后算力的发展突破衍生出两条路,一方面以集聚化算力为主,提倡“大力出奇迹”,另一方面通过降本增效赋能更多人工智能企业。

上线即满载,点军智算中心探索本土AI新基建的范式变革

作为国内聚焦云端AI的领先算力企业,燧原科技已经在半导体产业的深度产业链支持、产品方面积累颇深。与泛互联网的头部厂商合作,成为燧原科技构建算力底座、加速算力普惠的支撑。

当下,燧原科技通过点军智算中心项目探索的本土算力中心市场化运营新思路,找到了本土算力企业在数字经济发展中提出的新范式的可行性

二、点亮运行5个月,300PFLOPS算力全消纳

新一轮科技革命和产业变革正在向纵深演进,算力基础设施的重要性不断提升,智算中心作为新型基础设施,正为大模型等前沿技术发展提供强大算力支持。

点军智算中心从2023年8月启动建设,今年1月投入运营,“点亮”运行5个月,就已与多家头部互联网企业及行业大模型企业达成算力合作,实现上线算力300PFLOPS全消纳。

目前,点军智算中心300PFLOPS的算力资源中,包含250PFLOPS的推理算力以及50PFLOPS的训练算力,均由燧原科技提供核心算力支撑。

未来,点军政府还将在今年年内建成3000PFLOPS以上算力,其中点军人工智能算力中心二期的算力规模将达到300~500PFLOPS

张亚林将智算中心与生成式AI比作了“容器”与“溶液”的关系,点军智算中心作为算力的“容器”,其他互联网企业的算力需求就是“溶液”,智算中心为互联网企业提供算力租赁,真正让算力用户的需求和算力资源实现匹配,实现智算中心和生成式AI的双轮驱动发展。

上线即满载,点军智算中心探索本土AI新基建的范式变革

点军智算中心项目建成后,除了为大模型提供推理和微调任务提供算力支撑外,还为宜昌市智慧城市应用场景提供AI视频智能化解析,与智能摄像头等场景应用联动,同时为文旅、金融、科教等行业提供生成式AI服务。

在此基础上,该智算中心还将以宜昌点军为据点,对接外省市的算力调度需求,实现异地异构算力跨省市对接,加速助力宜昌打造国家东数西算战略中多元算力高地和国家算力“中继站”,联动上下游产业链玩家,支撑各省市、区域、行业的应用实践创新,实现真正按需调度算力资源。

点军智算中心已经成为宜昌“数算一体、数实融合”产业格局的重要一环。

三、打通算力、大模型、应用开发全链路,发布“燎原”生态合作计划

如今,大模型部署加速,智算中心加生成式AI的新商业模式到来。除了智算中心这样的基础设施,大模型的落地应用离不开算力提供商、大模型玩家以及应用开发服务平台的深度参与与生态协同。

张亚林提到,点军智算中心实现上线全消纳本身也说明了大模型广泛部署阶段已经来临,在这之后,大模型部署会带动更多数据产生,促进算法的演进,衍生出生成式人工智能的应用。

因此,他预计,今年下半年或明年将迎来更大一波的真正模型升级,大模型的飞轮将滚动起来。

这背后就是燧原科技与生态合作伙伴的机遇。燧原科技与贝式计算、开放传神、思迹信息、无问芯穹、澎峰科技、中电金信等多个生态合作伙伴发布了“燎原”生态合作计划和燧原生态技术伙伴培育计划,构建一个开放、协作、创新的人工智能生态系统,在此之上孵化出更多创新应用。

上线即满载,点军智算中心探索本土AI新基建的范式变革

目前,点军智算中心的重要客户已经涵盖了大模型玩家、应用开发服务平台、垂直行业玩家、开源生态社区等丰富多元的泛互联网企业。

3月底,燧原科技和无问芯穹宣布在宜昌共建千卡集群,无问芯穹的Infini-AI平台接入了点军智算中心的算力集群,开发者可以基于该平台直接无缝使用云燧i20推理卡。这使得开发者可以在灵活调用算力资源的基础上,更直观的感受到什么样的芯片与自己的模型更加匹配,从而加速大模型在具体业务中的应用创新。

贝式计算从2019年参与燧原第二代产品设计与合作至今,燧原科技的产品在贝式自研任务中的占比已经超过85%。大模型时代计算芯片的需求呈指数级增长,硬件的迭代同样会带来软件的整体切换迁移。基于燧原科技的软件栈统一特性以及持续的研发投入,企业在算力领域的投资可以持续沿用。

大模型的应用端层面,国内头部的流媒体服务平台爱奇艺正在文生图等领域试用点军智算中心提供的算力,之后将与燧原科技探索生成式AI在影视内容制作领域的应用。这也是生成式AI在泛娱乐领域实现商业应用,大模型与更多场景相结合的一大体现。

更为重要的是开源开放的生态建设,燧原科技为AI开源开放平台OpenI启智社区提供了GCU算力资源,社区开发者可以在启智平台上基于燧原GCU进行模型训练和推理,开发者提供算力,并通过引导让开发者对国产算力的效果有所感知。

点军智算中心作为重要桥梁,将算力、大模型厂商、大模型运维商和应用开发的玩家连接起来,并通过开源开放的生态体系协同降低大模型创新的门槛,进一步推动企业的应用探索。

结语:AIDC+AIGC,驱动算力范式变革

点军智算中心不仅是燧原科技进行智算中心建设的标杆案例,同时也是湖北宜昌打造全省大规模算力集群的示范场景。从算力基础设施,到开源开放的生态建设,燧原科技为大模型应用开发和部署落地释放算力资源赋能已经得到了充分验证。

智算中心+生成式AI的生态,将建设、应用、运维算力的伙伴们聚集起来,让国内智算中心真正达到满载应用、商业落地。正如张亚林所言,当下云边端一体化为国内产业带来了更大的机遇,To B和To C开始融合,中国拥有最大的用户和场景,基于用户场景和需求推动应用、模型、服务、系统软硬件一体化的商业模式将推动AI 2.0时代新纪元到来。

 

https://zhidx.com/p/427780.html

Discussions
Be the first to like this. Showing 0 of 0 comments

Post a Comment