為了滿足高性能或滿足人工智能(AI)需求,新型內存不斷涌現,雖然理論上表明,更大的內存有助于AI性能的釋放,但那些傳統內存難道就無法滿足高性能應用了嗎?起碼在某些邊緣AI的設備來說,并非如此。
華邦電子公司的1Gb LPDDR3 DRAM就是一個很好的應用案例,人工智能初創公司Kneron已經將其應用在最新的SoC系統KL720上。它是該公司提供的幾種用于各種邊緣設備的SOC之一,包括電池驅動的應用程序,如智能鎖和無人機,它利用了華邦的512Mb LPDDR2。通過在KL720 SoC中使用華邦的LPDDR3, Kneron希望為AI和機器學習技術支持一套新的低功耗/高性能應用程序。
華邦 DRAM市場經理Jacky Tseng介紹,華邦的LPDDR3 DRAM最大帶寬為8.5GB/s,可使用1.2V/1.8V雙電源,并提供深度斷電模式和時鐘停止功能等省電功能。這些規格使得Kneron的KL720等客戶設備能夠實時處理4K、全高清或3D傳感器視頻圖像,從而支持人工智能應用,如安全攝像頭中的人臉識別或公共亭中的手勢控制,以及執行自然語言處理。據悉,華邦的1Gb LPDDR3 DRAM將以良品裸晶圓(KGD)供應,并與KL720中的全新Kneron神經網絡處理器(NPU)封裝在一起。
先了解一下KL720 SOC的實力。在MobileNetV2圖像識別基準測試中,KL 720的能效是英特爾最新款Movidius芯片的兩倍,是谷歌的Coral Edge TPU的四倍。可謂真正達到: 強算力、低功耗、超高性價比以及安全性。KL720的另一大亮點在于:支持完整的自然語言處理。與上一代芯片相比,這款升級版芯片可以處理分辨率為1080P的4K靜止圖像和視頻。它還為公司帶來了許多新的音頻識別突破,Kneron表示,這將使搭載其芯片的設備能夠不受簡單「喚醒詞」的約束,與設備進行即時的對話。總體而言,Kneron承諾其SoC的性能達到1.5 TOPS,而SoC使用Arm Cortex M4作為其主要控制單元。完整封裝的平均功耗約為1.2W。
如此高性能的SOC,就算沒有配備最新型的內存也能達到這樣的水準,著實讓人驚訝。
Tseng表示,隨著大型DRAM廠商推出LPDDR4和LPPDR5,但很多客戶并不需要那么高級的DRAM,他們也不想支付這么高的價格。像Kneron這樣的客戶正在尋找在相對低密度下具有一定性能水平的產品。“即使是LPDDR3也能完美支持并實施一些人工智能培訓模式。人工智能訓練模型可以優化以縮小大小,所以1Gb就足夠了,但它仍然需要高帶寬。”
Tseng介紹,除了Kneron KL720 SoC應用的需求之外,華邦的LPDDR3 DRAM的密度和帶寬在汽車應用方面也有潛在的用途,比如使用必須實時處理視頻圖像攝像頭的ADAS。如今的物聯網端點有很多是需要進行基本的人工智能推斷,這與Kneron SOC一樣,需要低密度和高帶寬。
據Tseng介紹,在邊緣使用FPGA和ASIC進行推斷將需要更多的內存,比如4Gb LPDDR4,而在由CPU和GPU驅動的云中心,更集中的人工智能訓練和推斷中需要的是更高的密度和更高的性能,甚至高帶寬內存(HBM)和GDDR6的支持。實際上,邊緣計算有許多需要不同功耗/性能比率的“層”,包括那些非常適合華邦的LPDDR3 DRAM的層。
Objective analyst的首席分析師Jim Handy表示,華邦有著廣泛的產品系列,該公司的許多設備都是在需要低芯片數量的應用中銷售。“他們在串行或閃存方面都很龐大,在較小的應用程序中銷售大量SRAM,而DRAM在這些應用程序中就顯得多余了。”
在人工智能發展到單一架構之前,人們曾預計它會有多種多樣的選擇,比如單一的微控制器芯片,或者擁有5個芯片的小型個人電腦。Handy:“人工智能的種類仍然多得令人難以置信,很難說這真的是一種趨勢。”新型內存的出現也只能說是一種方向,或許在邊緣端能夠大有用處。
責任編輯:YYX
-
DRAM
+關注
關注
40文章
2303瀏覽量
183311 -
AI
+關注
關注
87文章
30140瀏覽量
268411 -
人工智能
+關注
關注
1791文章
46855瀏覽量
237551
發布評論請先 登錄
相關推薦
評論