Future Tech

[转贴] AI手机PC大爆发,Arm从软硬件到生态发力,打造行业AI百宝箱

Tan KW
Publish date: Wed, 05 Jun 2024, 10:46 PM
Tan KW
0 500,317
Future Tech

智东西(公众号:zhidxcom)
作者 | 云鹏
编辑 | 漠影

随着“Gen-AI”时代的到来,AI手机、AI PC等关键核心移动设备都在快速与生成式AI结合,越来越多的AI新功能涌现,深刻影响着我们每个人的生活和工作。

需求变得多样化,场景也更加复杂,生成式AI带来新的算力挑战和存储挑战,加速着背后一系列硬件、软件、算法、生态等方面的技术迭代。

AI手机PC大爆发,Arm从软硬件到生态发力,打造行业AI百宝箱

作为一切移动计算“根基”提供者的Arm,也在积极开拓新的解决方案,给行业带来新的解题思路。

近年来,Arm已不止于提供IP,从架构、硬件、软件到生态,Arm转型为一家计算平台公司,为产业提供完整的计算解决方案。

针对云数据中心和汽车应用,Arm相继推出对应的计算子系统(CSS),而就在上周,Arm为终端设备市场发布了首款终端计算子系统(CSS),结合了最新Armv9架构的特性,其中CPU和GPU在AI方面都有大幅性能提升。此外,Arm还为开发人员量身定制了开发工具Kleidi。

AI手机PC大爆发,Arm从软硬件到生态发力,打造行业AI百宝箱

今年Arm从全面计算解决方案(TCS)升级到了终端CSS,两者的主要不同之处在于,Arm首次提供了CPU和GPU物理实现,这可以让构建和部署基于Arm架构的解决方案变得更加简单。显然,这样的改变正是为了让生态伙伴可以快速把握AI新机遇,加速产品上市进程。

可以说,这无疑是Arm面向AI时代的一次关键发力,Arm这一系列重磅技术和新品都瞄准了端侧AI。

此次智东西对话Arm 终端事业部产品管理副总裁James McNiven,对背后的关键突破进行了深入挖掘,对Arm在生成式AI时代的布局和深入思考进行了探讨。

我们可以清晰地看到,Arm正在通过横跨架构、硬件、软件、生态的完整解决方案,让合作伙伴的产品快速与AI结合并推向市场,实现落地,为行业打造一个“AI百宝箱”。

一、移动生成式AI浪潮涌起,Arm深入底层,从架构到软硬件全家桶赋能

在今天的智能终端产业中,AI手机和AI PC无疑已经成为了产业关注的焦点赛道,生成式AI在这两个领域的融合也最为快速。终端设备能够处理的任务越来越复杂,并且生成式AI在感知、理解、交互等方面都带来了全新的技术挑战,涌现出更多的计算需求。

行业需要重新思考:什么才是适合生成式AI时代的计算平台?

如今一切移动端生成式AI的运行几乎都离不开Arm的CPU和GPU,据了解,有70%的第三方安卓ML工作负载都是在CPU上运行的,因此CPU仍然是AI时代计算的核心。

在这样的背景下,Arm作为底层关键技术提供者,无疑已成为这场AI变革的关键变量。

1、AI能力大幅提升背后,Arm的“DNA”与生成式AI相契合

为什么如此关键?AI时代带来了诸多挑战,其中最明显的就是,高性能和高能效的重要性被放到了空前高度,而能效恰恰是Arm的DNA。

AI手机PC大爆发,Arm从软硬件到生态发力,打造行业AI百宝箱

新的终端CSS基于最新的Armv9构建,计算和图形性能提升幅度超过30%,同时其AI推理速度提高了59%,这些提升对于处理要求更加严苛的安卓实际用例以及AI、ML和计算视觉工作负载都十分重要。

采用3nm工艺的新Arm Cortex-X925主频飙至3.8GHz,配合微架构的改进,与2023年旗舰智能手机采用的4nm SoC相比,其单线程性能提高了36%。

AI手机PC大爆发,Arm从软硬件到生态发力,打造行业AI百宝箱

在AI性能方面,Cortex-X925的token 首次响应时间提高了41%,这可以提升如大语言模型等端侧生成式AI的响应能力。

McNiven透露,为了提升AI算力,Arm采用了迄今为止最宽的解码和矢量的微架构设计,实现了50% TOPS数的增长。

GPU方面,新Arm Immortalis-G925 GPU在各类头部手游应用中实现了37%的性能提升,在多个AI和ML网络上实现了34%的性能提升。

AI手机PC大爆发,Arm从软硬件到生态发力,打造行业AI百宝箱

值得一提的是,Arm终端CSS还具备基于3nm工艺生产就绪的 CPU 和 GPU 物理实现。

据了解,物理实现中包括晶体管的设计和线路,可以显著帮助Arm的合作伙伴节省芯片开发的时间,同时优化芯片的性能和能效。

2、给开发者打造一把解锁更强性能的“钥匙”

除了架构和硬件设计,在工具和软件库方面,Arm还首次发布了Arm Kleidi,其中包括面向AI工作负载的KleidiAI和面向计算机视觉应用的KleidiCV。

AI手机PC大爆发,Arm从软硬件到生态发力,打造行业AI百宝箱

Arm做Kleidi最核心的目的,就是要确保开发者能够快速获得开发生成式AI应用所需的性能、工具和软件库。

简单理解,KleidiAI是一套面向AI框架开发者的计算内核,像PyTorch、Tensorflow、MediaPipe这样的热门AI框架都已经集成到KleidiAI中了,这对于加速主流AI大模型是十分重要的。

AI手机PC大爆发,Arm从软硬件到生态发力,打造行业AI百宝箱

值得一提的是,在Arm看来,CPU是唯一可以确保运行未来网络的计算引擎,因此对于可以解锁 Arm CPU 最高性能的Kleidi,无疑是开发人员解锁AI应用的最佳利器。

总体来看,此次Arm终端CSS出色的架构升级、性能和能效的大幅提升为功能更丰富、性能更强、更智能的终端设备铺路,扩展了移动设备的可能性和能力。同时Arm的软件层面的开发工具和平台则让开发者可以快速地将这些Arm的技术优势落地到应用和产品中,可以说Arm打造了移动端AI落地的“百宝箱”。

二、AI PC火爆加速WoA生态生长,移动端AI生态圈Arm挑大梁

正如前文所说,Arm提供的不仅仅是某一单点技术或产品,而是一个完整的解决方案,这背后,基于架构、硬件、软件之上实现的生态优势,也是Arm最硬的底牌之一。

在AI手机和AI PC两大移动智能终端设备快速发展的当下,Arm生态迎来一轮新的增长高潮。随着微软等厂商对于移动AI PC的大力推动,Windows与Arm生态的融合加速,我们将有望看到越来越多的PC终端巨头推出基于Arm架构处理器的AI PC。

在本周的台北国际电脑展上,Arm首席执行官喊出,五年内Arm架构的PC将抢下50%市场份额。这强大的自信很大一部分是来自 “Arm原生”的爆发式增长。

AI手机PC大爆发,Arm从软硬件到生态发力,打造行业AI百宝箱

McNiven特别谈到,对于WoA生态系统来说,今年是成果丰硕的一年。除了Microsoft Office、Dropbox、Zoom、Adobe套件,越来越多的应用正在成为Arm 原生应用,尤其是百度、哔哩哔哩、Chrome 浏览器、爱奇艺、搜狗、腾讯QQ音乐等头部应用。

此外还有许多针对创作者的开源工具,例如最近新增的Audacity、Blender和OBS Studio,这些应用整合了大量的开源库和开发者工具。

Arm与微软合作,通过资助开源和发布面向Windows的Arm性能库来发展生态系统。据了解,对于大多数用户来说,他们绝大部分时间都在基于Arm CPU的AI PC上运行Arm原生应用。

微软CEO萨蒂亚·纳德拉(Satya Nadella)在Build大会上说,现有Arm PC应用程序中有87%都是原生的Arm版本,这一数字还在不断增长。

可以预见,随着越来越多Arm原生应用的加入,Arm PC的体验和WoA生态也将更加完善。

据了解,如今Arm的技术合作伙伴已经有1000多家,Arm无疑有着芯片领域的“最强朋友圈”,而这个朋友圈,更直观的来看,就是Arm生态——更多的设备基于Arm,更多的应用基于Arm,移动终端AI体验,离不开Arm。

生态是Arm最硬的王牌之一,Arm也成为移动智能终端产业的“幕后王者”。

今天的Arm,正在提升企业和开发者快速把AI用在产品中,用对、用好,实现落地的能力,真正打造出生成式AI时代的移动芯片百宝箱。

结语:从IP到计算子系统,Arm成为移动AI生态隐形王者

可以看到,Arm正将前沿的CPU和GPU技术、生产就绪的物理实现和持续的软件优化相结合,终端计算子系统(CSS)与Kleidi软件的结合,也令其成为当下芯片设计领域新AI计算平台的优秀范例。

如今,Arm低功耗处理器设计和软件平台已应用于超过2800亿颗芯片,从传感器到智能手机乃至超级计算机。在AI变得无处不在的未来,Arm同样将无处不在。可以说,Arm架构是未来的基石,Arm生态也将继续加速生长。

面向生成式AI的未来,移动智能终端产业必然将涌现出更多创新,Arm将如何通过技术创新保持自身的核心竞争力并不断壮大自身的生态,我们拭目以待。

 

https://zhidx.com/p/428537.html

Discussions
Be the first to like this. Showing 0 of 0 comments

Post a Comment