賽靈思 FPGA 的起源

1984 年，賽靈思發明了現場可編程門陣列 (FPGA)，使用戶能夠在單個器件中編程（重編程）幾乎無限數量的功能。以前，系統設計人員使用很多通用的分立邏輯組件或通過構建高成本的 ASIC 來實現這些功能[ 參考資料 23]。

三十多年來，靈活性和可編程性仍然是賽靈思 All Programmable FPGA 和 SoC 的支柱。賽靈思提供的可編程平臺能滿足有線與無線通信、云計算、醫療、汽車、工業以及航空航天與國防領域中多種終端應用的核心需求。所有這些應用都需要強大的計算能力，很多還有非常嚴格的實時要求，例如工業自動化和 ADAS。

通常，FPGA 在使用上的挑戰之一是需要利用硬件描述語言 (HDL)（例如 Verilog 或 VHDL）對其進行編程。最近，賽靈思開發出了 SDSoC ? 和 SDAccel ? 工具，能夠將可編程器件的諸多優勢提供給更廣泛的用戶（例如軟件開發人員和系統架構師）[ 參考資料 24] ；并且構建了更多加速堆棧，使系統設計人員能更快速地實現賽靈思器件的優勢 [ 參考資料 25]。

賽靈思 FPGA 和 SoC 的獨特優勢

原始計算能力

與 GPU 擁護者的說法不同，單個賽靈思器件能提供強大的原始計算能力，例如 Virtex? UltraScale+ ?XCVU13P FPGA 的性能達到 38.3 INT8 TOP/s。最先進的 NVidia Tesla P40 加速卡以基礎頻率運行時提供相似的 40 INT8 TOP/s 原始計算能力，但功耗是賽靈思解決方案的 2 倍多 [ 參考資料 26]。賽靈思器件的靈活性和片上存儲器能針對很多工作負載和應用顯著提高計算能力（詳見 All Programmable 器件靈活性和片上存儲器資源）。

此外，賽靈思器件的靈活性意味著能夠支持各種數據類型精度，例如 FP32、INT8、二進制和定制[ 參考資料 27]。例如，針對二值化神經網絡，賽靈思提供 500TOPs/s 的超高二進制計算能力（假設 2.5LUT/ 運算），相當于 GPU 典型性能的 25 倍。有些精度最適合使用 DSP 資源，有些最適合在可編程邏輯中實現，還有些適合將二者結合起來使用。這種靈活性確保器件的計算和效率隨著精度降低而調整，一直到二進制運算。

機器學習領域的大量研究都從計算、精度和效率角度來研究最佳精度 [ 參考資料 28][ 參考資料 29][ 參考資料 30][ 參考資料 31][ 參考資料 32]。無論最佳點在哪，對于給定工作負載，賽靈思器件的計算能力和效率都能隨之調整，以實現降低精度后的所有優勢。

幾年來，很多 FPGA 用戶實現了脈動陣列處理設計，以便針對多種工作負載實現最佳性能，包括機器學習推斷。[ 參考資料 33][ 參考資料 34]。為了確保賽靈思 FPGA 和 SoC 用戶能夠在現有的賽靈思器件上針對此類工作負載將可實現的計算能力和效率實現最大化，賽靈思為此提供多種資源。這些資源包括 INT8最優化以及將 DSP 陣列映射到 block RAM 和 UltraRAM 的最高效存儲器層級 [ 參考資料 27]。如需了解有關這些資源的更多信息，敬請聯系您所在地的賽靈思銷售代表。

為了針對當今的深度學習工作負載提高可用的計算能力和效率，英偉達在 Volta 架構中以 Tensor Core 的形式硬化了類似功能。然而，深度學習工作負載會隨時間演進，因此 Tensor Core 架構也可能需要改變，而且 GPU 用戶需要等待和購買新的 GPU 硬件。

效率和功耗
從系統級角度看，計算平臺必須在給定的功率和熱范圍之內提供最大計算能力。為滿足這一需求，計算平臺需要 ：
? 處于允許的功率范圍內
? 能夠在功率預算內將計算能力最大化

賽靈思提供豐富的 All Programmable 器件，這使用戶能選擇與功率和熱范圍最匹配的器件。此外，賽靈思的 UltraScale+ 器件具有低壓模式 (VLOW)，能將功耗降低 30%，效率提升 20%。

如表 1 所示，賽靈思器件針對固定精度數據類型提供從原始計算角度看最高效的通用計算平臺。這主要是因為賽靈思 FPGA 架構中的處理開銷更低。例如，GPU 需要圍繞計算資源實現更多復雜性，以便實現軟件可編程功能。對于當今的深度學習工作負載的張量運算，英偉達的 Tesla V100 憑借硬化的 Tensor Core 能實現與賽靈思 FPGA 和 SoC 差不多的效率。然而，深度學習工作負載也在快節奏演進，因此無法
確定英偉達的 Tensor Core 能夠針對深度學習工作負載保持多久的高效性。顯然對于其他通用工作負載，NVidia V100 也存在效率方面的挑戰。

表 1 ：器件效率假設 90% 器件利用率和 80% 有效時鐘周期 (1)

?

鑒于本白皮書之前介紹的局限性，對于真實的工作負載與系統，GPU 很難接近表 1 中所給出的數字。

賽靈思器件的靈活性及其他優勢，加之賽靈思最新軟件開發堆棧，能確保基于賽靈思的解決方案為大量最終應用和工作負載實現顯著提高的效率。

賽靈思器件的附加優勢——例如靈活性和片上存儲器——能確保賽靈思器件的效率被大量最終應用和工作負載所實現。