在由本次會議上海市浦東新區科技和經濟委員會、上海張江高科技園區開發股份有限公司和芯原微電子(上海)股份有限公司(芯原股份)共同承辦的2020世界人工智能大會云端峰會“人工智能芯片創新主題論壇”上,三星電子高級副總裁MoonSoo Kang壓軸重點介紹了三星布局未來AI產品的晶圓代工生態系統。三星電子是目前全球排名第二的晶圓代工廠,且同時擁有FinFET和FD-SOI兩種先進工藝產線MoonSoo Kang表示,芯片定制化是AI計算的未來,三星可為AI芯片提供從工藝技術到IP和設計方法等的一攬子解決方案。
芯片定制化是AI計算的未來
眾所周知,人工智能正在迅速改變著世界。但人工智能解決方案才剛剛開始,并且具有巨大的成長潛力。即使在人工智能的初期,人工智能也已經以許多不同方式滲透到我們生活的各個角落。從超大規模數據中心到我們的家庭和汽車,再到我們個人化的設備,如移動電話和可穿戴設備,我們可以發現不同規模的多樣化的人工智能應用程序。
這些多樣化的AI應用程序需要多樣化的計算需求和技術要求,同時面臨著不同的邊界條件和需要克服的技術障礙,沒有單一的解決方案能滿足所有的需求,因此,為給定類型的AI應用程序提供它所需要的正確的計算解決方案是非常重要的,Moonsoo Kang表示。
顯然,計算能力本身對于實現人工智能是至關重要的,AI的計算架構一直在進化發展,通用CPU是用于AI應用領域的最靈活的計算解決方案,但是,它并沒有針對AI應用領域所需的計算操作進行特別優化,接下來,GPU在AI類型應用中變得非常流行,因為它們在處理AI類型計算方面具有更高的效率,現在,通過定制設計的AI處理器(custom-designed AI processors)可以實現更高的計算效率,我們相信這是AI計算的未來。
可以看到通用CPU占據當今數據中心推理(Inference)應用市場的主導地位,但預計到2025年,定制AI芯片將占據將近一半的市場份額。另一方面,在數據中心的培訓(Training)應用市場目前是完全由GPU主導但是到2025年,這個市場上最重要的解決方案將是定制AI芯片,硅片技術的最新趨勢,這也許對AI應用很重要,是異質整合(heterogeneous Integration),這與半導體行業的傳統方向——也就是越來越多的內容集成到單個芯片中的方向截然相反,這種趨勢是由于下面幾個事實:
首先,高端制程的邏輯工藝變得越來越昂貴。先進工藝的硅片制造成本越來越高,而先進技術節點的芯片設計成本也隨之迅速增加;其次,并非設計的所有部分都以相同的方式體驗高級技術節點的好處,例如,模擬設計不會隨著先進技術節點的發展而縮小,考慮到更高的晶圓成本,采用先進技術節點的模擬零件變得越來越昂貴,由于這個原因,分解的想法變得很流行,單個芯片可以分為多個小芯片(Chiplet),這些小芯片可以組裝在中介層(Interposer)的頂部或多芯片封裝模塊中,當然,這個想法需要克服很多技術和經濟上的障礙,但這正在成為不可否認的趨勢,至少在某些細分市場中是這樣。
三星晶圓代工生態系統布局未來AI產品
在AI行業的計算架構和硅解決方案中已經發生的和正在發生的變化,那么Samsung Foundry能將提供什么樣的工藝,IP和封裝方案來幫助AI行業呢?
Foundry的工藝技術
Samsung Foundry在成功開發硅片先進制程技術方面擁有悠久的歷史,Moonsoo Kang介紹到,我們在Foundry行業中率先在32/28nm工藝上引進了High-K金屬柵極技術,然后又領先推出第一款采用FinFET晶體管結構的14nm工藝,第一款EUV光罩技術的量產又在我們的7nm技術上實現。而且,創新不止于此,我們在3nm技術中引進了世界上第一個全環柵極晶體管技術(Gate-all-around transistor)。除了主流技術節點開發外,我們還擁有特殊工藝技術來提供差別化的解決方案,我們開發了28nm FD-SOI工藝并提供了嵌入式非易失性存儲器解決方案, 包括eFlash和eMRAM。并且我們正在18nm節點上開發第二代FD-SOI技術,Samsung Foundry的下一個重要目標是GAA,全環柵極晶體管技術,硅晶體管已從平面(Planar)演變到立體的FinFET,來實現更好的面積和電壓減縮,現在,為了進一步改善FinFET并克服FinFET的短通道效應,我們正在引入一種稱為全環柵極的新型晶體管架構,借助這項新技術,我們可以進一步降低晶體管的工作電壓,從而實現更節能的計算,這對于AI應用至關重要。
同樣,對于GAA器件,器件寬度會隨著納米片(Nano sheet)通道的垂直堆疊的增加而增加,因此可以實現速度增強而不會造成面積損失,這項技術將在較小的硅片面積中實現更少的能耗和更多的計算能力,作為差別化的技術開發,我們在FD-SOI工藝提供eNVM解決方案,以實現最終的低功耗應用。
人工智能的應用范圍很廣,隨著AI應用進入我們的日常生活,在終端點附近或邊緣AI進行處理正變得越來越普遍并變得越來越重要。對于此類應用,獲得每功率更多的性能以及總功耗極為重要,我們的FD-SOI技術為節能解決方案提供了平臺。
并且,借助嵌入式非易失性存儲器(如eFlash和eMRAM),有可能實現模擬類型的內存計算,與傳統的基于數字邏輯的計算架構相比,其功耗更低,面積更小,處理速度更快。
IP設計
以上是Samsung Foundry的工藝技術,但是,僅靠硅制程技術不能提供出色的芯片,要設計具有競爭力的芯片,需要優秀的設計IP。Moonsoo Kang表示,Samsung Foundry可提供全套的設計IP來支持AI和HPC應用以及移動應用,我們提供各種內存接口IP,例如HBM2/2e,GDDR6,DDR5/4和LPDDR5/4,最高速度可達112G的Serdes IP,高速接口(例如PCIe,MIPI和USB)以及Die-to-die接口串行和并行類型。這些IP由我們的IP合作伙伴或Samsung Foundry內部開發,并經過所有測試和硅驗證。
接下來是我們的高速存儲器和Serdes IP的更多技術細節。這些在設計AI類型計算解決方案中顯得非常重要,我們已經有HBM2/2e IP,HBM3 IP正在開發中,右上方顯示了高達112G的Serdes IP,左下方顯示了用于經濟高效的高帶寬解決方案的GDDR6 IP,芯片到芯片(Die-to-die) IP是異質整合的重要組成部分,有串行和并行兩種類型。
封裝技術
隨著異質整合,封裝技術正成為關鍵的推動技術。Samsung Foundry提供并繼續開發各種針對AI產品優化的封裝解決方案,Moonsoo Kang表示,我們提供使用硅片和RDL中介層(interposer)連接邏輯和高帶寬存儲器或邏輯和邏輯芯片的2.5D水平方向集成解決方案,我們的2.5D集成解決方案從4HBM集成將進一步擴展到6和多于8個HBM集成。
我們還提供3D-TSV芯片堆疊集成解決方案,其中一個芯片位于另一個芯片的頂部,以實現極高的帶寬,隨著焊盤間距小至10um, 3D集成解決方案將進一步擴展到晶圓對晶圓鍵合和芯片對晶圓技術。
AI應用領域的一個重要方面,尤其是對于耗電量巨大的數據中心類型的AI產品而言,是高功耗,因此需要提供優秀的電源完整性(PI)解決方案,隨著計算能力的提高,開關噪聲或功率紋波成為關鍵問題。
Moonsoo Kang表示,作為一種解決方案,晶體管附近的高密度硅電容器可以減少電源噪聲并提高PI,Samsung Foundry提供了各種電容器解決方案來幫助增強PI,具有高電容密度的集成堆棧電容器(Integrated Stack Capacitor)可以集成在硅片中介層內部或作為分立芯片,集成的堆棧電容器可以顯著改善輸電網絡的峰值阻抗和電壓降如下圖所示。我們還提供MIM(金屬絕緣體金屬)電容器和EPS(嵌入式無源基板),以進一步增強電源完整性。
最后,以上談到的Samsung Foundry的硅工藝技術,設計IP和封裝這些技術組件不只是作為離散組件提供,它們是一個完整且客戶友好的生態系統,簡稱為SAFE,稱為Samsung Advanced Foundry Ecosystem,可提供“一站式”解決方案。Moonsoo Kang分享與重要客戶百度的成功合作經驗。百度使用SAFE平臺成功開發了同類最佳的AI加速器芯片,該產品采用了Samsung Foundry的14nm邏輯工藝,SAFE可靠的IP解決方案和設計方法,和HBM一起構建在2.5D硅片中介層PKG。
責任編輯:tzh
-
芯片
+關注
關注
453文章
50406瀏覽量
421830 -
晶圓
+關注
關注
52文章
4842瀏覽量
127800 -
三星電子
+關注
關注
4文章
569瀏覽量
40715 -
AI
+關注
關注
87文章
30146瀏覽量
268417
發布評論請先 登錄
相關推薦
評論