這是一個算力不足的年代，這是一個算力重建的年代，破局與重建關乎時代變遷，破局與重建也激發著創新者的斗志。

01

愿算力與你同在：當全世界的電力都用上還不夠

“算力”在未來，就像當年的蒸汽機、電力一樣，儼然已經是生產力發展的核心要素，也就是說，誰擁有超越別人的“算力”，誰就會擁有更高的生產力和效率，誰也就能在創新上實現真正的突破，成為推動產業和時代進步的原動力。所以“算力”會和“原力”一樣成為人們期望擁有的能力。

“愿算力與你同在”是雪湖公司的口號，印在了我們的文化衫上。

它致敬了星戰里的那句“愿原力與你同在”這句話。熟悉星戰的朋友一定知道，“原力”是星球大戰里一種超自然的，而又無處不在的神秘力量，是所有生物創造的一個能量場，幫助絕地武士們擁有超越其他人的能力。

5G，AI和AIoT，讓所有東西都聯網和數字化，使得算力缺口不斷擴大，從端側到云端，數據運算需求呈現指數級增長，都在思考如何打破“算力瓶頸”。也許你會說，可以用CPU和GPU啊？曾經有人算過，不斷增長的加速需求全部用GPU來算的話，用上全世界的電力可能也不夠，所以光用GPU做加速顯然不現實。

在我看來，根據場景不同，將來算力會分布在從云到端的各個環節上。站在這幾年非常流行的“上云萬能論”的角度來看，有許多場景的需求無法通過云解決，以智能駕駛場景為例，計算結果需要在毫秒級反饋到控制系統，顯然云端計算變得不現實。相信FPGA的靈活性可以為更多場景做“算力賦能”。

02

重新定義硬件：為什么要用ASIC的思路做FPGA的應用開發？

我是一個半導體行業的老兵，在芯片原廠工作的十幾年里，幾乎接觸過市面上所有類型的芯片。在這么多的芯片里，FPGA是最特殊的，它“樂高積木”一樣的特點讓人著迷。

這幾年，異構計算和硬件加速是非常值得期待的市場。從當下4000多億美金全球的芯片市場規模來說，FPGA芯片的60多億不那么大，但隨著ABC（AI，Bigdata，Cloud）和5G的推動，從端到云都可能面臨“算不過來”的窘境，這對于擅長做加速的FPGA來說市場潛力極大。按照Gartner的預測，到2025年FPGA芯片市場將增長到125億美金，非常值得期待。

然而，幾十年來，FPGA也一直面臨ASIC的競爭。通常認為，客戶的產品在達到一定體量后，從成本角度會遷移到ASIC。雪湖科技認為，雖然這樣的競爭無法避免，但如果能把“Crossover Point （交叉點）”往右邊延伸（如下圖1），那就能擴大FPGA應用市場的空間，充分受益于異構計算強大的算力優勢。所以雪湖科技選擇“用ASIC的思路去做FPGA開發”，在應用開發的過程中，珍惜一點一滴的計算資源，從時間利用率和空間利用率上做優化，最終通過提升FPGA的資源使用率來提升應用端加速性能。而這樣給客戶帶來的價值就是，因為性能提升延長了成本切換的時間點，讓一部分原本ASIC的市場變成FPGA的市場。即使在云端也是一樣，性能的極致優化和提升可以為客戶提升TCO，剩下大把的成本，可以用來專注于提升云端的服務能力。

雪湖CEO張強在FPGA數值計算加速領域經驗豐富，曾經參與過微軟基金會的創新項目“激光打蚊子”，在Vertex2PRO上實現了每秒鐘處理500幀圖片，每張圖片識別4096只蚊子的驚人效果，而這一些都是通過對計算資源極致優化來完成的。雪湖已經擁有40位FPGA開發者人員，秉承“用設計ASIC的思路做FPGA的開發”的理念，已經成功在人工智能，智能駕駛，數據中心和高性能計算領域完成布局。

圖1 ?FPGA方案和ASIC方案成本比較 （出處：興業證券 《FPGA行業深度報告》）

03

Wide and Deep 加速器：算法懂你，還得懂賺錢

提升算力的關鍵，首先一定是硬件的提升，FPGA的低延遲及高吞吐相對GPU有絕對的優勢，因此越來越多的企業意識到了這一點，已經開始率先使用FPGA來提升算力。

在賽靈思開發者大會XDF 2019上，阿里云的 FPGA 異構計算負責人張振祥也說，在今年優酷的國慶閱兵直播，以及天貓雙十一晚會直播，阿里云都采用了 FPGA的轉碼方案。我們了解到，天貓雙十一的圖片轉碼也都是用FPGA做的。這里可以看出一個趨勢，FPGA還會隨著雙十一銷售額交易量的攀升得到更為廣泛的運用。可以預見，FPGA在互聯網基礎業務領域有很多應用場景。

雪湖也有幸參與到了本屆XDF，并且與賽靈思共同推出了基于賽靈思Alveo U200加速卡實現的“Wide and Deep廣告推薦算法加速解決方案”，相較于CPU服務器，基于FPGA加速器打造的這一解決方案，將吞吐量提高了3~5倍，加上功耗更低，其TOC（總體擁有成本）是CPU云的5倍以上。

圖2 FPGA vs CPU 基于FPGA的推薦算法性能比較（出處：雪湖科技）

推薦系統是互聯網公司運營的核心，內容推薦會影響留存，轉化和成交轉化；廣告推薦會直接影響點擊率（CTR），進而影響廣告收入。看到互聯網公司對廣告投放、內容點擊率的痛點，我們開發了基于FPGA的廣告推薦加速器。

推薦系統中，CTR（Click-Through-Rate，點擊率）至關重要，在云音樂推薦的“今日歌單”，抖音上的短視頻，購物APP的“猜你喜歡”等場景中，CTR值反映的是推薦系統的準確率，他影響著用戶是去是留，也決定著互聯網企業的廣告收益。

為了達成精準的推薦和投放，2016年，谷歌提出了“Wide and Deep”算法模型，現在已經被Facebook、Youtube等國際領先的互聯網公司廣泛使用。考慮到部署于GPU的成本高，這一算法以往采用CPU來加速，但性能并不理想。在這個背景下，我們與賽靈思針對數據中心廣告推薦算法加速推出“Wide and Deep算法推薦系統”高性能解決方案。

在完成推薦過程時，我們會根據用戶信息提取用戶自畫像和商品屬性，輸入到模型，再根據相應算子得出最終結果。基于賽靈思U200構建出的“Wide and Deep”加速器，能夠根據模型API制作出雪湖科技API，再由自研發的工具包將模型和數據轉換為可由FPGA處理的數據，從而快速計算出結果。

將結果進行處理和排序后，也就是我們日常可見的推薦界面了。由于不同的用戶有不同的個人信息和喜好，經過模型計算也會有不同的結果，也就對應出不同的推薦內容。

另外，考慮到大型推薦系統的上線都是通過云端部署，同時用在線和離線方式更新模型。除了U200加速卡，我們同樣支持Wide and Deep在阿里云FPGA服務器F3（FPGA：賽靈思 VU9P）上的部署應用，用戶可以通過鏡像文件部署。根據最近的更新數據顯示，模型精度損失可控制在2/100000。當模型更新時，通過雪湖科技提供的專有工具可直接載入模型參數，可做到一鍵式更新模型參數。

目前，互聯網公司在算法推薦上的需求持續增長，在讓企業看到FPGA的性能預期之外，我們還希望通過這些操作上的便利，能提供到奉行最小可行性測試的互聯網行業最為喜聞樂見的方案，讓他們能低成本地擁抱變化，進一步滿足人們‘聽我想聽’、‘看我想看’、‘買我想買’的‘懶惰’需求，另一維度上，廣告主的帶貨KPI能被更高效的完成，企業的廣告售賣單價能夠提升，FPGA的價值也就體現了。

除了推薦算法，雪湖對于硬件加速和算力提升的探索還在繼續，“愿算力與你同在”！

關于作者

王韻，雪湖科技聯合創始人兼COO，日本國立九州大學碩士，師從著名產業經濟學家山崎朗。半導體行業老兵，在該領域擁有超過15年工作經驗。曾服務于全球500強日本富士通集團，任職亞太區高管負責半導體芯片的市場營銷業務。

編輯：黃飛