智能科技已經(jīng)無縫融入到每個(gè)人的生活中。使用智能音箱查詢天氣、播放歌曲、甚至進(jìn)行會(huì)議提醒確實(shí)很方便,但如果黑客能夠訪問你所有的數(shù)據(jù)和交易信息,那會(huì)不會(huì)是一場(chǎng)災(zāi)難呢?在萬物智能(Pervasive Intelligence)時(shí)代,人工智能(AI)和安全已經(jīng)成為超越傳統(tǒng)芯片設(shè)計(jì)界限的關(guān)鍵因素。
半導(dǎo)體行業(yè)的迅猛增長(zhǎng)主要是由AI(人工智能)、ML(機(jī)器學(xué)習(xí))和DL(深度學(xué)習(xí))等技術(shù)的廣泛應(yīng)用所驅(qū)動(dòng)的,這些技術(shù)對(duì)計(jì)算要求極高,需要專用芯片和高效的設(shè)計(jì)來支持智能功能。從語音和文本識(shí)別到高性能計(jì)算(HPC)、數(shù)據(jù)中心、搭載AI的個(gè)人電腦及自動(dòng)駕駛汽車等,這些計(jì)算密集型任務(wù)依賴于先進(jìn)的架構(gòu)。這些架構(gòu)不僅能夠提供強(qiáng)大的計(jì)算能力,還能隨著時(shí)間的推移優(yōu)化,不斷提升決策能力。尤其是在科學(xué)和醫(yī)學(xué)研究、氣象預(yù)報(bào)、金融、石油與天然氣勘探等細(xì)分領(lǐng)域,需要更強(qiáng)大的算例資源,以有效進(jìn)行數(shù)據(jù)分析和數(shù)字計(jì)算。
人工智能的發(fā)展勢(shì)頭正在加速。隨著越來越多的智能設(shè)備接入云端,人工智能的潛力呈指數(shù)級(jí)增長(zhǎng),從而創(chuàng)造了龐大的市場(chǎng)機(jī)遇。為了讓設(shè)備根據(jù)現(xiàn)實(shí)條件快速做出決策,AI相關(guān)計(jì)算的關(guān)鍵部分必須在硬件中完成。專用的“AI芯片”對(duì)于經(jīng)濟(jì)高效地實(shí)現(xiàn)規(guī)模化AI應(yīng)用至關(guān)重要,它們?yōu)樘囟☉?yīng)用帶來了創(chuàng)新且顛覆性的解決方案。
當(dāng)前用于AI/ML/DL應(yīng)用的芯片含有定制的處理器架構(gòu)和復(fù)雜的數(shù)據(jù)路徑,能夠準(zhǔn)確執(zhí)行所需的算術(shù)分析。行業(yè)對(duì)數(shù)據(jù)處理能力的需求日益增長(zhǎng),對(duì)功能自動(dòng)化的期望不斷提高,智能技術(shù)在各類應(yīng)用中的廣泛集成,芯片開發(fā)者和驗(yàn)證團(tuán)隊(duì)也亟需采用現(xiàn)代化的驗(yàn)證技術(shù),推動(dòng)人工智能技術(shù)進(jìn)一步發(fā)展。
在本文中我們將共同探討以下幾個(gè)問題:AI芯片對(duì)硅工程的影響,以及開發(fā)者面臨的關(guān)鍵功耗、性能和面積(PPA)有哪些挑戰(zhàn)?將AI芯片普及到各應(yīng)用領(lǐng)域的潛在機(jī)遇有哪些?對(duì)高級(jí)驗(yàn)證有哪些需求?為何硬件安全在未來將變得至關(guān)重要?
不是只有半導(dǎo)體公司才能設(shè)計(jì)芯片
隨著摩爾定律逐漸接近極限,從通用處理器獲得期望的性能增益變得越來越困難。因此,許多非傳統(tǒng)半導(dǎo)體領(lǐng)域的公司開始自行設(shè)計(jì)芯片,以適應(yīng)特定應(yīng)用的需求。
像英偉達(dá)、英特爾、AMD、高通、Meta、亞馬遜、阿里巴巴、微軟和谷歌這樣的公司,目前都在積極投資開發(fā)自己的定制ASIC(應(yīng)用特定集成電路)芯片,旨在支持他們的AI軟件并滿足具體應(yīng)用的需求。十年前,幾乎沒有行業(yè)專家能預(yù)見到像Meta這樣的社交媒體公司會(huì)涉足這一領(lǐng)域。
此外,汽車、HPC和云計(jì)算等市場(chǎng)的系統(tǒng)和軟件公司也開始自主構(gòu)建專用硬件架構(gòu)。越來越多企業(yè)開始涉足芯片開發(fā)領(lǐng)域,這樣的市場(chǎng)增長(zhǎng)孕育了海量全新機(jī)遇,為當(dāng)今要求苛刻的芯片設(shè)計(jì)環(huán)境帶來了一系列新的設(shè)計(jì)工具和解決方案。
在AI設(shè)計(jì)中采用RISC-V處理器架構(gòu)
RISC-V起初主要用于嵌入式應(yīng)用和微控制器領(lǐng)域。經(jīng)過多年的發(fā)展,這個(gè)開源標(biāo)準(zhǔn)在汽車、數(shù)據(jù)中心和高性能計(jì)算等諸多應(yīng)用領(lǐng)域持續(xù)受到關(guān)注,也越來越多地應(yīng)用到各式各樣的AI工作負(fù)載中。以下為廣泛采用RISC-V架構(gòu)的主要領(lǐng)域:
人工智能:AI芯片往往采用異構(gòu)設(shè)計(jì),開發(fā)者會(huì)盡可能選擇RISC-V等現(xiàn)成的處理器,著力于開發(fā)高性能、高能效的AI加速器,用于完成諸如神經(jīng)網(wǎng)絡(luò)處理和自然語言處理等任務(wù)。
汽車:對(duì)于汽車SoC,RISC-V處理器可以滿足信息娛樂、高級(jí)駕駛輔助和通信等系統(tǒng)對(duì)性能、功耗、成本和安全性的要求。
高性能計(jì)算(HPC)和數(shù)據(jù)中心:RISC-V內(nèi)核非常適合使用定制ISA來處理復(fù)雜的計(jì)算任務(wù),而RISC-V擴(kuò)展可以支持開發(fā)簡(jiǎn)單、安全和靈活的內(nèi)核,從而滿足這些應(yīng)用的能效要求。
是什么讓AI芯片設(shè)計(jì)與眾不同?
從AI初創(chuàng)公司到全球主要的云服務(wù)提供商,各方紛紛加大研發(fā)力度,相繼推出了GroqChip、Nvidia H100 GPU、Ambarella CV52S、Atlazo AZ-N1、AWS Trainium和Google TPU v4等備受矚目的AI芯片。這些創(chuàng)新激發(fā)了一波又一波的芯片開發(fā)浪潮,推動(dòng)了業(yè)界在開發(fā)更加快速和高效的AI芯片方面的競(jìng)爭(zhēng)。
如今,以數(shù)據(jù)為中心的計(jì)算正在改變PC格局。而基于人工智能的PC正蓄勢(shì)待發(fā),有望為大眾帶來強(qiáng)大的智能功能。英特爾的目標(biāo)是到2025年為1億臺(tái)支持人工智能的PC提供內(nèi)核處理器。這家芯片制造巨頭正在與微軟攜手定義人工智能PC,最終的成果預(yù)計(jì)將配備用于AI工作負(fù)載的神經(jīng)處理單元和微軟的Copilot AI聊天機(jī)器人。?
在當(dāng)前對(duì)AI片上系統(tǒng)(SoC)的新投資中,主要目的之一是讓系統(tǒng)能夠通過分布式操作執(zhí)行多重計(jì)算任務(wù),這一點(diǎn)超越了傳統(tǒng)CPU所提供的有限并行處理能力。AI/ML硬件設(shè)計(jì)包括多個(gè)數(shù)據(jù)密集型模塊,如控制路徑和計(jì)算模塊。控制路徑通過狀態(tài)機(jī)根據(jù)特定輸入處理輸出;計(jì)算模塊則包含加法器、減法器、乘法器和除法器等算術(shù)邏輯單元,負(fù)責(zé)執(zhí)行各類數(shù)據(jù)運(yùn)算。這些功能極大地提高了AI算法處理大量重復(fù)、可預(yù)測(cè)和獨(dú)立計(jì)算任務(wù)的速度。
雖然計(jì)算模塊對(duì)于大多數(shù)設(shè)計(jì)團(tuán)隊(duì)來說可能難度不大,但隨著算術(shù)模塊和位數(shù)的增加,其實(shí)施復(fù)雜程度也將急劇攀升,從而給驗(yàn)證團(tuán)隊(duì)帶來額外的壓力。
我們以一個(gè)簡(jiǎn)單的4位乘法器為例。為了驗(yàn)證它的完整功能,開發(fā)者需要為24=16種輸入組合編寫測(cè)試向量。那么挑戰(zhàn)在哪里呢?在驗(yàn)證當(dāng)今AI芯片的實(shí)際場(chǎng)景時(shí),由于數(shù)據(jù)處理量巨大,團(tuán)隊(duì)需要驗(yàn)證具有64位輸入的加法器。也就是說需要驗(yàn)證264個(gè)狀態(tài),如果依靠傳統(tǒng)方法,則需要花費(fèi)數(shù)年時(shí)間才能完成。
而這只是在設(shè)計(jì)中包含單一乘法器或除法器的情況。隨著AI芯片的應(yīng)用領(lǐng)域快速擴(kuò)展,數(shù)據(jù)量的增長(zhǎng)也在持續(xù)爆炸,這一趨勢(shì)使得整個(gè)情況變得更加復(fù)雜。為了應(yīng)對(duì)硬件驗(yàn)證中的各種挑戰(zhàn)和耗時(shí)任務(wù),開發(fā)者迫切需要一種安全且靈活的現(xiàn)代化驗(yàn)證解決方案。
芯片驗(yàn)證所面臨的主要挑戰(zhàn)
在團(tuán)隊(duì)設(shè)計(jì)AI芯片時(shí),通常會(huì)選擇運(yùn)行速度較快且用途較廣的C/C++來編寫設(shè)計(jì)算法。編寫完功能代碼后,需要使用RTL(寄存器傳輸語言)將信息轉(zhuǎn)換為更適用于硬件的表示形式,以便實(shí)現(xiàn)設(shè)計(jì)。為此,團(tuán)隊(duì)要么為所有可能的組合開發(fā)測(cè)試向量,要么驗(yàn)證RTL是否與原始的C/C++架構(gòu)模型保持一致,這兩項(xiàng)任務(wù)相當(dāng)艱巨,無論作何選擇,都需要投入大量的時(shí)間和精力。
當(dāng)需要全面驗(yàn)證而連續(xù)迭代方法顯得不現(xiàn)實(shí)時(shí),可以采用形式化驗(yàn)證等技術(shù)。形式化驗(yàn)證通過數(shù)學(xué)分析,允許一次性全面考慮整個(gè)硬件設(shè)計(jì),從而無需為每種輸入組合編寫測(cè)試向量。相反,可以使用模型檢測(cè)器,根據(jù)一系列預(yù)定義的行為斷言來驗(yàn)證設(shè)計(jì)。
十年前,形式化驗(yàn)證需要使用高級(jí)斷言,被視為一項(xiàng)僅限專家操作的技術(shù)。但現(xiàn)在情況已大為不同。如今,任何RTL開發(fā)者或驗(yàn)證開發(fā)者都能迅速掌握相關(guān)技能并將其應(yīng)用于設(shè)計(jì)中,這要求當(dāng)前的驗(yàn)證工具必須簡(jiǎn)單易用。此外,改善工具的調(diào)試功能也極為關(guān)鍵,它有助于開發(fā)者理解復(fù)雜且不熟悉的設(shè)計(jì)行為,以及統(tǒng)一多樣化且復(fù)雜的設(shè)計(jì)環(huán)境。
然而,鑒于當(dāng)前AI芯片的巨大尺寸、規(guī)模和復(fù)雜性,通過模型檢測(cè)實(shí)現(xiàn)完整的驗(yàn)證已不再可行。從長(zhǎng)遠(yuǎn)來看,使用傳統(tǒng)方法來驗(yàn)證這些數(shù)學(xué)功能不僅效率低下、耗時(shí),也是不現(xiàn)實(shí)的。對(duì)于靈活且可定制的RISC-V架構(gòu)來說,每當(dāng)添加新的自定義指令時(shí),確保所有配置都經(jīng)過徹底驗(yàn)證是另一個(gè)挑戰(zhàn)。
AI和ML應(yīng)用亟需高級(jí)數(shù)據(jù)路徑驗(yàn)證
驗(yàn)證開發(fā)者可以通過等效性檢查等其他形式化驗(yàn)證來高效驗(yàn)證復(fù)雜的AI數(shù)據(jù)路徑。這種方法可以比較同一設(shè)計(jì)的兩種表示形式,由此能夠證明這兩種形式是否等效,識(shí)別出它們之間的具體差異。借助強(qiáng)大的形式化驗(yàn)證引擎,這兩種表示形式可以處在截然不同的抽象層次上,甚至可以用不同的編程語言編寫,這無疑是巨大的優(yōu)勢(shì)。這種方法通常用于根據(jù)邏輯綜合所生成的門級(jí)網(wǎng)表來檢查RTL輸入。
例如,可以將芯片設(shè)計(jì)的詳細(xì)RTL實(shí)現(xiàn)與高級(jí)C/C++架構(gòu)模型進(jìn)行比較。這種比較可以確認(rèn)對(duì)于這兩種表示形式,同一組輸入會(huì)生成相同的輸出。這個(gè)有效的方法適合很多AI項(xiàng)目,因?yàn)榇蠖鄶?shù)項(xiàng)目已擁有C/C++模型,可用于仿真中的結(jié)果檢測(cè),或作為虛擬平臺(tái)的一部分來支持早期軟件開發(fā)和測(cè)試。
要根據(jù)經(jīng)驗(yàn)證的參考模型對(duì)設(shè)計(jì)數(shù)據(jù)路徑進(jìn)行詳盡驗(yàn)證,形式化等效性檢查仍然是目前少數(shù)可行的技術(shù)。為了推動(dòng)AI應(yīng)用不斷發(fā)展,并驗(yàn)證今后熱門AI應(yīng)用中的復(fù)雜功能單元,驗(yàn)證工具和解決方案需要簡(jiǎn)單易用,可擴(kuò)展到更大的設(shè)計(jì)規(guī)模,并擁有能快速檢測(cè)錯(cuò)誤的高級(jí)調(diào)試功能。
在實(shí)現(xiàn)層面,要達(dá)到所需的PPA通常會(huì)遇到一些挑戰(zhàn)。對(duì)此,新型全環(huán)繞柵極(GAA)技術(shù)節(jié)點(diǎn)和Multi-Die設(shè)計(jì)架構(gòu)可以提供幫助。Synopsys.ai全棧式AI驅(qū)動(dòng)型EDA整體解決方案可處理重復(fù)性任務(wù),例如設(shè)計(jì)空間探索、驗(yàn)證覆蓋和回歸分析,從而更快完成PPA的優(yōu)化。
從當(dāng)前的AI加速器到日后的認(rèn)知系統(tǒng)
硬件設(shè)計(jì)已成為AI創(chuàng)新的核心推動(dòng)力。當(dāng)前計(jì)算工作負(fù)載的加速發(fā)展,對(duì)于縮短設(shè)計(jì)和驗(yàn)證周期的迫切需求仍將保持增長(zhǎng)。如今,新思科技提供多款成熟可靠的驗(yàn)證解決方案,助力開發(fā)者在眾多應(yīng)用領(lǐng)域中驗(yàn)證復(fù)雜的AI架構(gòu)。
新思科技VC Formal等新一代形式化驗(yàn)證解決方案為開發(fā)團(tuán)隊(duì)帶來所需的速度、容量和靈活性,助其驗(yàn)證復(fù)雜的SoC設(shè)計(jì)。該解決方案包含全面的分析和調(diào)試技術(shù),可幫助團(tuán)隊(duì)通過新思科技Verdi調(diào)試平臺(tái)快速識(shí)別根本原因。
VC Formal解決方案提供了一套廣泛的形式化驗(yàn)證應(yīng)用,其中包括集成了HECTOR技術(shù)的VC Formal數(shù)據(jù)路徑驗(yàn)證(DPV)應(yīng)用。其中,HECTOR技術(shù)已成功部署于許多要求苛刻的AI芯片項(xiàng)目。借助定制優(yōu)化和用于數(shù)據(jù)路徑驗(yàn)證的引擎(ALU、FPU、DSP等),VC Formal解決方案可報(bào)告RTL和C/C++模型結(jié)果中的所有差異,以便在Verdi SoC調(diào)試平臺(tái)中進(jìn)行診斷,并驗(yàn)證二者是否已消除所有差異且達(dá)到等效目標(biāo)。VC Formal解決方案已幫助多家創(chuàng)新芯片開發(fā)商和新興AI/ML芯片公司收獲累累碩果。
此外,我們的解決方案還利用了并行處理的優(yōu)點(diǎn),允許同時(shí)在多個(gè)內(nèi)核上運(yùn)行仿真,享受云端的優(yōu)勢(shì)。這意味著,即使是那些有臨時(shí)性、高強(qiáng)度計(jì)算需求的企業(yè),也可以使用我們的工具來設(shè)計(jì)AI硬件。AI市場(chǎng)日新月異、蓬勃發(fā)展,我們很高興能夠通過前沿的驗(yàn)證解決方案為AI行業(yè)提供支持,助力開創(chuàng)AI芯片和軟件的新時(shí)代。
不久的將來:AI芯片將實(shí)現(xiàn)同態(tài)加密
AI行業(yè)將持續(xù)處理數(shù)萬億字節(jié)的數(shù)據(jù),并且需要高性能芯片來維持這種計(jì)算范式,因此數(shù)據(jù)位數(shù)的增加無可避免。全球眾多大學(xué)和研究機(jī)構(gòu)正積極探索處理大規(guī)模位數(shù)輸入數(shù)據(jù)(如4096位)的可行性,并致力于構(gòu)建相應(yīng)的解決方案,以設(shè)計(jì)支持此類龐大數(shù)據(jù)輸入量的芯片。而這正是VC Formal數(shù)據(jù)路徑驗(yàn)證和形式化安全驗(yàn)證(FSV)應(yīng)用的理想應(yīng)用場(chǎng)景。
海量數(shù)據(jù)正如潮水般涌入,對(duì)硬件安全防護(hù)的需求也隨之加劇。比如,最近發(fā)生了一起價(jià)值6億美元的加密貨幣盜竊案,這是去中心化金融領(lǐng)域有史以來金額最龐大的盜竊案,暴露出了一些可能被網(wǎng)絡(luò)犯罪分子所利用的緊急威脅和漏洞,凸顯了端到端安全的重要性。同態(tài)加密將成為AI/ML芯片發(fā)展不可或缺的一部分。簡(jiǎn)單地說,借助同態(tài)加密,您可以加密數(shù)據(jù)并在不解密的情況下執(zhí)行AI系統(tǒng)所需的相同算術(shù)計(jì)算,從而降低數(shù)據(jù)泄露的風(fēng)險(xiǎn)。同態(tài)加密是前景可期的發(fā)展方向,有望提升AI芯片設(shè)計(jì)的效率和結(jié)果質(zhì)量。為了推動(dòng)同態(tài)加密的廣泛采用,我們亟需開發(fā)下一代工具來助力其快速增長(zhǎng)。
總結(jié)
人工智能日漸普及各方面計(jì)算應(yīng)用,無論在哪個(gè)細(xì)分市場(chǎng),AI芯片要想取得成功,都需要對(duì)設(shè)計(jì)進(jìn)行充分驗(yàn)證。沒有人希望自己的自動(dòng)駕駛汽車撞上那些被圖像識(shí)別分析所忽略的障礙物。新的邊緣AI設(shè)備將推動(dòng)實(shí)時(shí)海量數(shù)據(jù)計(jì)算爆炸式增長(zhǎng),并改變芯片開發(fā)者的半導(dǎo)體設(shè)計(jì)方式,由此會(huì)提高生產(chǎn)力、縮短周轉(zhuǎn)時(shí)間并帶來更出色的驗(yàn)證解決方案。
一個(gè)以人工智能為核心的新時(shí)代即將來臨。如今,我們還需要引導(dǎo)才能回答問題的虛擬助手,未來是否能發(fā)展成像鋼鐵俠中的J.A.R.V.I.S那樣的智能助理呢?一切答案,時(shí)間將會(huì)揭曉。
評(píng)論
查看更多