香薰机厂家
免费服务热线

Free service

hotline

010-00000000
香薰机厂家
热门搜索:
行业资讯
当前位置:首页 > 行业资讯

低功耗DRAM更能满足边缘AI需求-电子发烧友网

发布时间:2022-04-25 16:18:52 阅读: 来源:香薰机厂家
低功耗DRAM更能满足边缘AI需求-电子发烧友网

为了满足高性能或满足人工智能(AI)需求,新型内存不断涌现,虽然理论上表明,更大的内存有助于AI性能的释放,但那些传统内存难道就无法满足高性能应用了吗?起码在某些边缘AI的设备来说,并非如此。

24节气海报
电子公司的1Gb LPDDR3 DRAM就是一个很好的应用案例,人工智能初创公司Kneron已经将其应用在最新的SoC系统KL720上。它是该公司提供的几种用于各种边缘设备的SOC之一,包括电池驱动的应用程序,如智能锁和无人机,它利用了华邦的512Mb LPDDR2。通过在KL720 SoC中使用华邦的LPDDR3, Kneron希望为AI和机器学习技术支持一套新的低功耗/高性能应用程序。

华邦 DRAM市场经理Jacky Tseng介绍,华邦的LPDDR3 DRAM最大带宽为8.5GB/s,可使用1.2V/1.8V双电源,并提供深度断电模式和时钟停止功能等省电功能。这些规格使得Kneron的KL720等客户设备能够实时处理4K、全高清或3D传感器视频图像,从而支持人工智能应用,如安全摄像头中的人脸识别或公共亭中的手势控制,以及执行自然语言处理。据悉,华邦的1Gb LPDDR3 DRAM将以良品裸晶圆(KGD)供应,并与KL720中的全新Kneron神经网络处理器(NPU)封装在一起。

先了解一下KL720 SOC的实力。在MobileNetV2图像识别基准测试中,KL 720的能效是英特尔最新款Movidius芯片的两倍,是谷歌的Coral Edge TPU的四倍。可谓真正达到: 强算力、低功耗、超高性价比以及安全性。KL720的另一大亮点在于:支持完整的自然语言处理。与上一代芯片相比,这款升级版芯片可以处理分辨率为1080P的4K静止图像和视频。它还为公司带来了许多新的音频识别突破,Kneron表示,这将使搭载其芯片的设备能够不受简单「唤醒词」的约束,与设备进行即时的对话。总体而言,Kneron承诺其SoC的性能达到1.5 TOPS,而SoC使用Arm Cortex M4作为其主要控制单元。完整封装的平均功耗约为1.2W。

如此高性能的SOC,就算没有配备最新型的内存也能达到这样的水准,着实让人惊讶。

Tseng表示,随着大型DRAM厂商推出LPDDR4和LPPDR5,但很多客户并不需要那么高级的DRAM,他们也不想支付这么高的价格。像Kneron这样的客户正在寻找在相对低密度下具有一定性能水平的产品。政府公益海报
“即使是LPDDR3也能完美支持并实施一些人工智能培训模式。人工智能训练模型可以优化以缩小大小,所以1Gb就足够了,但它仍然需要高带宽。”

Tseng介绍,除了Kneron KL720 SoC应用的需求之外,华邦的LPDDR3 DRAM的密度和带宽在汽车应用方面也有潜在的用途,比如使用必须实时处理视频图像摄像头的ADAS。如今的物联网端点有很多是需要进行基本的人工智能推断,这与Kneron SOC一样,需要低密度和高带宽。

据Tseng介绍,在边缘使用FPGAASIC进行推断将需要更多的内存,比如4Gb LPDDR4,而在由CPUGPU驱动的云中心,更集中的人工智能训练和推断中需要的是更高的密度和更高的性能,甚至高带宽内存(HBM)和GDDR6的支持。实际上,边缘计算有许多需要不同功耗/性能比率的“层”,包括那些非常适合华邦的LPDDR3 DRAM的层。

Objective analyst的首席分析师Jim Handy表示,华邦有着广泛的产品系列,该公司的许多设备都是在需要低芯片数量的应用中销售。“他们在串行或闪存方面都很庞大,在较小的应用程序中销售大量SRAM,而DRAM在这些应用程序中就显得多余了。”

在人工智能发展到单一架构之前,人们曾预计它会有多种多样的选择,比如单一的微控制器芯片,或者拥有5个芯片的小型个人电脑。Handy:“人工智能的种类仍然多得令人难以置信,很难说这真的是一种趋势。”新型内存的出现也只能说是一种方向,或许在边缘端能够大有用处。
责任编辑:YYX