一項(xiàng)研究試圖解決圍繞谷歌人工智能工具的激烈分歧。

芯片設(shè)計(jì)大會上的討論很少白熱化。不過，一年前，在國際物理設(shè)計(jì)研討會（ISPD）上，事態(tài)失控了。觀察人員用“火車碰撞”和“埋伏偷襲”來比喻當(dāng)時的事態(tài)。沖突的癥結(jié)是芯片設(shè)計(jì)難題，即谷歌借助人工智能（AI）的解決方案是否真的比人工和最先進(jìn)的算法好。為此，一位知名的男性電子設(shè)計(jì)自動化（EDA）專家與谷歌的兩名年輕女性計(jì)算機(jī)科學(xué)家針鋒相對，由此引發(fā)的爭論已經(jīng)導(dǎo)致一名谷歌研究員被解雇。

2023年，同樣是在國際物理設(shè)計(jì)研討會上，該領(lǐng)域的領(lǐng)導(dǎo)者、IEEE會士安德魯?卡恩（Andrew Kahng）希望一勞永逸地結(jié)束這場爭論。他和加州大學(xué)圣地亞哥分校（UCSD）的同事對谷歌的強(qiáng)化學(xué)習(xí)方法進(jìn)行了“公開透明的操作和評估”。他們使用了谷歌名為“循環(huán)訓(xùn)練”（Circuit Training）的開源版本，并對卡恩團(tuán)隊(duì)不夠清晰的部分進(jìn)行了逆向工程，他們將強(qiáng)化學(xué)習(xí)與人類設(shè)計(jì)師、商業(yè)軟件和最先進(jìn)的學(xué)術(shù)算法進(jìn)行了對比。

在大多數(shù)情況下，循環(huán)訓(xùn)練并不是贏家，但它具有競爭性。由于各種原因，該研究沒有測試循環(huán)訓(xùn)練的招牌功能：通過學(xué)習(xí)其他芯片設(shè)計(jì)來提高其性能。

“我們的目標(biāo)很明確，就是推動社區(qū)不斷進(jìn)步。”他在2023年國際物理設(shè)計(jì)研討會上告訴工程師們。只有時間能證明這是否可行。

如何與何時

工程師討論的問題被稱為布局，即確定邏輯或內(nèi)存塊應(yīng)該放在芯片的什么位置。布局時必須考慮權(quán)衡各種矛盾的因素，最大限度地提高芯片的工作頻率，同時最大限度地降低其功耗和占用空間。找到這個問題的最佳解決方案是最困難的部分之一，可能的排列組合比圍棋還多。

不過，圍棋最終被一款名為深度強(qiáng)化學(xué)習(xí)的人工智能打敗了，這正是前谷歌大腦研究員阿扎利亞?米爾霍西尼（Azalia Mirhoseini）和安娜?戈?duì)柕希ˋnna Goldie）在布局問題上應(yīng)用的方案。該方案當(dāng)時被稱為Morpheus，它將放置大塊電路（稱為“宏”）視為一個游戲，學(xué)習(xí)如何在游戲的過程中找到最佳解決方案。（宏的位置對芯片特性有巨大的影響。在循環(huán)訓(xùn)練和Morpheus中，用一種被稱為標(biāo)準(zhǔn)單元單獨(dú)的算法在空白處來填充小部件。針對宏和標(biāo)準(zhǔn)單元，其他方法使用同樣的過程。）

簡而言之，其工作原理如下：芯片的設(shè)計(jì)文件從網(wǎng)表開始，在網(wǎng)表中指定哪些宏和單元根據(jù)什么約束條件連接到其他宏和單元。為了幫助加快訓(xùn)練過程，標(biāo)準(zhǔn)單元隨后被收集到該集群。之后，循環(huán)訓(xùn)練會開始將宏一次一個地放置到芯片“畫布”上。當(dāng)最后一個宏放置后，單獨(dú)的算法在空白處填充標(biāo)準(zhǔn)單元，系統(tǒng)會嘗試進(jìn)行快速評估，包括布線的長度（越長越差）、密集程度（越密集越差）及其擁擠程度（越擁擠越差）。這被稱為代理成本，就像電子游戲中的分?jǐn)?shù)一樣。該分?jǐn)?shù)作為反饋，用于調(diào)整神經(jīng)網(wǎng)絡(luò)，然后系統(tǒng)會再次嘗試。洗滌、漂洗、重復(fù)。系統(tǒng)最終學(xué)會任務(wù)，商業(yè)軟件對整個布局進(jìn)行全面的評估，生成芯片設(shè)計(jì)者關(guān)心的各種指標(biāo)，如面積、功耗和約束頻率等。

經(jīng)過7個月的審核過程，米爾霍西尼和戈?duì)柕嫌?021年6月在美國《自然》雜志上發(fā)表了Morpheus的研究結(jié)果和方法。（卡恩是第三位審查員。）該技術(shù)用于設(shè)計(jì)多代谷歌的張量處理單元（TPU）人工智能加速器芯片。2022年1月，谷歌在GitHub上發(fā)布了循環(huán)訓(xùn)練的開源版本，但卡恩和其他人表示，即使是這個版本也不夠完整，無法復(fù)制該項(xiàng)研究。

為了回應(yīng)《自然》雜志上發(fā)表的內(nèi)容，一個主要由谷歌內(nèi)部工程師組成的獨(dú)立團(tuán)隊(duì)開始研究自己的方法，并認(rèn)為該方法可以更好地將強(qiáng)化學(xué)習(xí)與現(xiàn)有算法進(jìn)行對比。不過，這種競爭并不友好。據(jù)新聞報(bào)道，該小組的領(lǐng)導(dǎo)人、谷歌研究員薩特拉吉特?查特吉（Satrajit Chatterjee）多次暗中損害米爾霍西尼和戈?duì)柕系膫€人利益，并于2022年因此被解雇。

查特吉仍在谷歌就職時，他的團(tuán)隊(duì)發(fā)表了一篇題為《更強(qiáng)大的基線》（Stronger Baselines）的論文，批評了發(fā)表在《自然》雜志上的研究。他試圖將論文提交給一個大會，但經(jīng)過獨(dú)立決議委員會審查后，谷歌拒絕了。在他被解雇后，就在2022年國際物理設(shè)計(jì)研討會之前，該論文的早期版本被一個匿名推特賬戶泄露，從而引發(fā)了公眾的對峙。

基準(zhǔn)、基線和再現(xiàn)性

《科技縱覽》在2022年國際物理設(shè)計(jì)研討會之后與電子設(shè)計(jì)自動化專家探討時發(fā)現(xiàn)，批評者有3個相互關(guān)聯(lián)的關(guān)注點(diǎn)：基準(zhǔn)、基線和再現(xiàn)性。

基準(zhǔn)是公開可用的電路設(shè)計(jì)，研究人員可以在基準(zhǔn)上測試新的算法。谷歌在開始工作時常用的基準(zhǔn)來源于已經(jīng)有大約20年歷史的設(shè)計(jì)。盡管其與現(xiàn)代芯片的相關(guān)性存在一些爭論，但它們?nèi)匀坏玫搅藦V泛的支持。

《自然》雜志的論文主要關(guān)注的不是這些基準(zhǔn)，而是谷歌張量處理單元的布局，這是一種復(fù)雜且前沿的芯片，該公司以外的研究人員無法設(shè)計(jì)。

基線是與新系統(tǒng)競爭的最先進(jìn)的算法。《自然》雜志上的那篇論文將強(qiáng)化學(xué)習(xí)比作人類專家和當(dāng)時領(lǐng)先的學(xué)術(shù)算法RePlAce。《更強(qiáng)大的基線》一文則認(rèn)為，《自然》雜志的工作并未恰當(dāng)?shù)貓?zhí)行RePlAce，而另一種算法模擬退火也需要進(jìn)行比較。

而實(shí)際上，卡恩真正關(guān)注的是再現(xiàn)性。他認(rèn)為，發(fā)布在GitHub上的循環(huán)訓(xùn)練無法讓另外一個獨(dú)立小組完全重復(fù)全過程。因此加州大學(xué)圣地亞哥分校團(tuán)隊(duì)對卡恩認(rèn)為缺失的元素和參數(shù)進(jìn)行了逆向工程。

重要的是，卡恩的團(tuán)隊(duì)公開記錄了進(jìn)展、代碼、數(shù)據(jù)集和過程，作為此類工作可提高再現(xiàn)性的示例。

加州大學(xué)圣地亞哥分校的工作被稱為MacroPlacement，它不是對《自然》雜志論文的一對一的重做。除了使用公共基準(zhǔn)，其中兩個已在2020年和2021年無法使用，MacroPlacement還分別將循環(huán)訓(xùn)練與Cadence的商業(yè)工具Innovus并發(fā)宏放置器（CMP）和英偉達(dá)開發(fā)的一種名為AutoDMP的方法進(jìn)行對比，后者是在卡恩發(fā)言前幾分鐘在2023年國際物理設(shè)計(jì)研討會上公開推出的。

另一個關(guān)鍵區(qū)別在于，每個Macro-Placement結(jié)果都來自以前從未見過設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)。而在《自然》雜志論文的實(shí)驗(yàn)中，研究人員曾用20個張量處理單元電路樣本對該網(wǎng)絡(luò)進(jìn)行了預(yù)訓(xùn)練，然后將其結(jié)果與其他方法的結(jié)果進(jìn)行比較。米爾霍西尼和戈?duì)柕险J(rèn)為缺少預(yù)訓(xùn)練剝奪了該方法的主要優(yōu)勢。她們在一封電子郵件中寫道，循環(huán)訓(xùn)練“與其他任何方法都不同，它能夠從經(jīng)驗(yàn)中學(xué)習(xí)，針對其看到的每一個問題，快速產(chǎn)生更好的布局”。

按照MacroPlacement常見問題解答（FAQ），沒有測試預(yù)訓(xùn)練是因?yàn)槭褂妙A(yù)訓(xùn)練網(wǎng)絡(luò)的代碼沒有在循環(huán)訓(xùn)練中發(fā)布，而且沒有可用的設(shè)計(jì)能與《自然》雜志論文中完成的訓(xùn)練相匹配。此外，對于該團(tuán)隊(duì)測試的最小基準(zhǔn)Ariane，谷歌已經(jīng)表明，預(yù)訓(xùn)練的結(jié)果不會產(chǎn)生比《自然》雜志上已發(fā)表內(nèi)容更好。

循環(huán)訓(xùn)練與其他技術(shù)的比較

卡恩的論文報(bào)告使用兩種工藝技術(shù)，實(shí)現(xiàn)3種基準(zhǔn)設(shè)計(jì)的結(jié)果。該團(tuán)隊(duì)測量的指標(biāo)與米爾霍西尼和戈?duì)柕显谄洹蹲匀弧冯s志論文中所做的指標(biāo)相同，包括面積、布線長度、功率、兩個時序指標(biāo)和前文所述的代理成本。（代理成本并不是生產(chǎn)中使用的實(shí)際指標(biāo)，包含該指標(biāo)是為了對應(yīng)《自然》雜志論文。）結(jié)果是好壞參半。

正如《自然》雜志原始論文中所述，在大多數(shù)面對面比較的指標(biāo)上，強(qiáng)化學(xué)習(xí)打敗了RePlAce。（對3種設(shè)計(jì)中最大的一種，RePlAce未能生成布局。）與人類專家相比，循環(huán)訓(xùn)練經(jīng)常失敗；與模擬退火相比，結(jié)果多為平局。

最大的贏家是商業(yè)工具CMP和新加入的AutoDMP，與其他方法相比，它們能在更多情況下提供最佳指標(biāo)。

繼續(xù)前行

毫無疑問，這場爭端帶來的后果大多數(shù)都是負(fù)面的。查特吉陷入了與谷歌不當(dāng)終止合同的訴訟。卡恩及其團(tuán)隊(duì)花費(fèi)了大量的時間和精力來重建幾年前完成的工作，而且可能是多次重建。多年來，戈?duì)柕虾兔谞柣粑髂嵩诔惺芤梦窗l(fā)表和未審查研究的批評后，離開了這一歷來難以吸引女性人才的工程領(lǐng)域。從2022年8月以來，她們一直在人工智能研究公司Anthropic從事有關(guān)大型語言模型的強(qiáng)化學(xué)習(xí)工作。

如果說有積極的一面，那么就是卡恩的工作為開源和可重現(xiàn)研究提供了一個模型，并增加了公開可用工具，從而推動了芯片設(shè)計(jì)中的這一部分向前發(fā)展。盡管如此，機(jī)器學(xué)習(xí)在芯片設(shè)計(jì)中的應(yīng)用已經(jīng)開始傳播開來，如今，它正在幫助了新思科技（Synopsys）和楷登電子（Cadence）的商業(yè)電子設(shè)計(jì)自動化工具在不斷發(fā)展。

然而，沒有這些不愉快，所有的好事也會出現(xiàn)。

作者：Samuel K. Moore

編輯：黃飛

?