Future Tech

[转贴] AI如何破解内存带宽瓶颈?Rambus技术专家详解IP产品战略

Tan KW
Publish date: Wed, 09 Dec 2020, 11:44 PM
Tan KW
0 466,093
Future Tech
AI如何破解内存带宽瓶颈?Rambus技术专家详解IP产品战略

芯东西(公众号:aichip001)
作者 |  温淑
编辑 |  心缘

芯东西12月9日消息,今天上午,美国IP设计商、芯片提供商Rambus举办的2020年中国线上技术峰会开幕,这是Rambus首次面向中国市场举办技术峰会。

Rambus大中华区总经理苏雷、资深应用工程师曹汪洋、资深现场工程师张岩,分享了Rambus在安全IP、接口IP方面的最新产品进展,并阐述内存和系统接口对于下一代AI/ML硬件的重要作用。

安全IP方面,目前Rambus提供两大类产品,可满足从轻量IoT到高端车载等应用场景的需求;接口IP方面,Rambus采用台积电7nm制程的HBM2E内存接口方案可达到4 Gbps性能,其GDDR6解决方案可提供高达18 Gbit/s/pin的速率。

成立于上世纪九十年代,Rambus持续开发现代片上系统(SoC)和计算系统必不可少的基础技术,其中包括高速物理和数字控制器接口IP核,安全性IP核等。

一、安全IP:保护半导体产业链全流程安全

当今,许多半导体企业专注在芯片IP、设计、代工、封装等单一产业链环节中发展业务,产业链中各个环节在一定程度上彼此分离。

这就导致,对于某一产业链环节中的特定玩家来说,其上游产品由第三方供应商提供,有可能为产品引入不可控的安全隐患。

因此,Rambus资深现场工程师张岩认为,为保护整个半导体生命周期的安全,从芯片架构阶段起,芯片安全问题就需要被考虑在内。

目前,Rambus已推出两大类安全IP,分别为Vaultlp IP(安全服务&密钥管理IP)和CryptoManager Root of Trust IP(系统安全管理IP)。

其中,Vaultlp IP适用于IoT、工业、网关等轻量应用场景,具备安全引导、安全管理等功能。

CryptoManager Root of Trust IP面向更高端的使用场景,致力于为云端、AI/ML、车载、国防等场景打造安全环境。

AI如何破解内存带宽瓶颈?Rambus技术专家详解IP产品战略

▲Rambus硬件信任根产品

在芯片落地于设备之后,两个设备间或服务器间传递的数据被称为“流动的数据”。由于传输介质位于公共区域,这部分“流动的数据”可能在多个位置遭受攻击。

面对这一隐患,使用安全通信协议,构建加密传输通道必不可少。目前,Rambus可提供Rambus MACsec等多种安全通信协议产品。

据张岩讲解,MACsec是一种二层网络的安全标准,已经广泛部署于PHY、交换机、防火墙、网关、网卡及5G设备中。

Rambus MACsec产品方案包括单端口IP、多通道(TDM)的MACses引擎等,亦提供MACsec工具包IEEE 802.1X(EAP+MKA),其中包含研发所需软件的数据面工具。

此外,Rambus还提供非MACsec的多通道半导体IP等,可支持1Tpbs以上的AES-GCM加解密。

AI如何破解内存带宽瓶颈?Rambus技术专家详解IP产品战略

张岩亦分享了其对保护半导体产业基础设施安全的看法。他认为,保护半导体产业基础设施安全,需要从芯片/设备安全、供应链安全、生命周期安全三方面入手,对应芯片设计、生产、应用的各个流程。

1、保护芯片/设备的安全:打造硬件信任根

随着复杂性增加,芯片安全漏洞呈指数级增长。以CPU为例,目前,人们为CPU引入乱序执行、多线程执行等许多功能。CPU功能日益丰富,越来越多安全隐患随之出现,比如Metaldown、Specre等攻击手段涌现出来。

因此,真正与安全相关的敏感代码,并不应该被设计在主CPU上,而应在专门为安全设计的区域中运行,这一区域被称为信任根(root of trust)

在硬件实现中,信任根不仅要保证芯片硬件安全,而且要保证在遭遇恶意攻击时,算法仍是可信的。

信任根有多种密码学算法,可安全存储密钥,还能作为上层软件所需的信任链条的基础。

大多数情况下,信任根基于硬件不可修改的特性进行设计。可以说,信任根是SoC和上层应用构建安全的基石

举例来说,IP设计商可在IP上提供多信任根支持、secure debug等安全功能。

AI如何破解内存带宽瓶颈?Rambus技术专家详解IP产品战略

要指出的是,在很多情况下,一些信任根只能在某些攻击手段下提供保护,而无法针对提供更多种类、更高等级的攻击提供保护。

在选择信任根时,应根据芯片的最终使用场景、需考虑的威胁模型、设备安全/成本/性能排名等因素,进行综合考虑和评估。

2、保护供应链&生命周期安全:部署设备密钥,提供密钥管理服务

张岩称,为保证芯片生产流程的安全,需为其引入安全认证的环节,而这一环节通过自动化的安全密钥/ID/数据注入来实现。这一解决方案中,系统可在可信或不可信的环境中完成自动化写入,过程无需人为干预。

为保护芯片生命周期安全,需在生产环节建立设备唯一标识(ID)的安全部署方案;在运营环节中,该方案需具备基于云服务的设备认证、功能管理、设备安全退役等功能。

二、接口IP:带宽成为解锁更高AI、ML性能的关键

近年来数据规模指数增长,各类AI/ML应用应运而生,许多为AI/ML任务设计的专用处理器涌现出来。

据Rambus大中华区总经理苏雷,Rambus评估了Google TPU v1、NVIDIA K80、Intel Haswell三种处理器的性能。运行多种算法的结果显示,三种处理器性能均受到内存带宽的限制。

AI如何破解内存带宽瓶颈?Rambus技术专家详解IP产品战略

Rambus资深应用工程师曹汪洋称,在带宽成为AI系统性能瓶颈的背景下,HBM2E、GDDR6技术成为两种流行的带宽解决方案。最初,HBM2E、GDDR6均为图形市场开发,但在AI训练、推理应用中亦表现出优势。

HBM2E能够提供高达3686 Gbps的带宽。相比于HBM2E解决方案,GDDR6提供的带宽较低(512 Gbps),但具备成本优势。

曹汪洋讲解了Rambus HBM2E、GDDR6解决方案的性能特点。

1、HBM2E解决方案可提供4 Gbps性能

今年10月15日,Ranbus宣布,在台积电的7nm制程上,其HBM2E内存接口方案可达到4 Gbps性能。

搭配SK海力士的3.6 Gbps运行速度的HBM2E DRAM,该解决方案可为单个HAM2E设备提供460 GB/s的带宽,满足TB级带宽需求。

4 Gbps速度的7nm HBM2E产品集成完备的硬核PHY(包括IO和Decap)和控制器,可为客户降低集成难度。

另外,该解决方案提供包括内插板和封装参考设计在内的系统级设计支持。

去年,Rambus宣布,燧原科技已选择Rambus HBM2 PHY和内存控制器IP作为其下一代AI培训芯片。

曹汪洋称,至今,Rambus已为50多位客户提供了带宽解决方案,其GF12LP节点的HBM2E解决方案速率可达3.2 Gbps,正处于预投产阶段。同时,Rambus正在开发12LP+工艺节点上的HBM2E解决方案。

AI如何破解内存带宽瓶颈?Rambus技术专家详解IP产品战略

2、GDDR6解决方案可提供高达18 Gbit/s/pin速率

Rambus GDDR6解决方案能实现高达18 Gbit/s/pin的速率。曹汪洋称,目前,这是业界GDDR6解决方案能提供的最大速率。

带宽方面,Rambus GDDR6解决方案可提供高达576 Gbps带宽;总线速度方面,Rambus GDDR6解决方案能达到12、14、16或18 Gbps;此外,该解决方案支持8、12、16Gbit DRAM。

此外,Rambus GDDR6解决方案还提供经过验证的PHY和内存控制器。用户使用时无需花费时间进行调试,Rambus可提供多于100个测试序列。

AI如何破解内存带宽瓶颈?Rambus技术专家详解IP产品战略

结语:AI芯片IP面临高安全性/高带宽两大需求

随着技术向前发展,AI走出实验室,成为驱动千行百业智能化变革的一大引擎,而芯片是实现AI应用落地的重要基础硬件设施。据市场研究机构德勤预测,2020年全球人工智能市场规模将达到6800亿元人民币,复合增长率达26%。

这一过程中,AI应用对产业链上游环节的芯片IP,提出全新的安全性和带宽需求。据此,Rambus推出两大类安全IP及HBM2E、GDDR6等接口IP解决方案。

此外,芯东西了解到,除了HBM2E和GDDR6产品,Rambus还提供DDR4、PCIe其他带宽解决方案。我们了解到,目前Rambus正为50多位客户提供PCIe解决方案。

未来,AI5G等全新技术还将为芯片IP业滋生出怎样的需求?以Rambus为代表的产业链玩家又将拿出怎样的解决方案?我们将持续关注。

 

https://zhidx.com/p/247878.html

Discussions
Be the first to like this. Showing 0 of 0 comments

Post a Comment