GPU（圖形處理器）這個概念最早是顯卡廠商Nvidia公司提出來，如它的名字所象征的意義，主要是為圖形處理而設計。圖形處理計算的特征表現為高密度的計算而計算需要的數據之間較少存在相關性。下圖展示了GPU和CPU設計的不同之處。

圖 CPU架構和GPU對比

如圖所示，GPU的設計出發點在于GPU更適用于計算強度高、多并行的計算。因此，GPU把晶體管更多用于計算單元，而不像CPU用于數據Cache和流程控制器。這樣的設計是因為并行計算時每個數據單元執行相同程序，不需要繁瑣的流程控制而更需要高計算能力，因此也不需要大的cache容量。

圖 GPU內部結構

如上圖所示，GPU的架構圍繞流處理器（SMX）陣列構建的。 流處理器能同時并發執行上百線程。指令流水線化以利用單線程內的指令級并行，與CPU核不同，GPU指令順序發射，沒有分支預測和猜測執行。

流處理器以32個為一組創建、管理、調度和執行并行線程，這32個線程組稱為束（warps）。束內包含的不同線程從同一程序地址開始，但它們有自己的指令地址計數器和寄存器狀態，因此可自由分支和獨立執行。

束每次執行一個相同的指令，所以如果束內所有32個線程在同一條路徑上執行的話，會達到最高效率。如果由于數據依賴條件分支導致束分岔，束會順序執行每個分支路徑，而禁用不在此路徑上的線程，直到所有路徑完成，線程重新匯合到同一執行路徑。分支岔開只會在同一束內發生，不同的束獨立執行不管它們是執行相同或不同的代碼路徑。

需要注意的是，GPU的線程概念和CPU的線程概念不同，CPU有虛存概念，線程具有自己的線程空間和頁表項，還包括CPU的諸多狀態寄存器。因此CPU的線程功能更強大，切換線程的代價也更高，而GPU的線程可以被看做一些計算指令構成的計算塊，它們的調度、執行和切換要簡單的多。從一個線程的執行上下文切換到另一個線程的執行上下文沒有消耗，線程之間的切換是硬件切換，消耗的時間幾乎可以不考慮。

計算任務中可能存在串行的部分。串行指不可并行、必須順序執行的計算部分。這種串行部分極大的降低了任務的并行度和計算性能。在后續的實踐例子中，就遇到了這樣的串行部分。

單獨的GPU缺乏必要的環境，沒有外部設備和操作系統的支持，不能和網絡或者本地硬盤交換數據，因此在實際應用中，GPU總是要和CPU搭配使用，共同構成編程的環境，這種編程稱為異構編程。異構編程不可避免CPU管理的內存和GPU管理的內存之間的數據交互，數據交互的效率極大程度上將影響GPU的運行效率。

1.5 FPGA的架構和編程設計

FPGA不采用指令和軟件，是軟硬件合一的器件。對FPGA進行編程要使用硬件描述語言，硬件描述語言描述的邏輯可以直接被編譯為晶體管電路的組合。所以FPGA實際上直接用晶體管電路實現用戶的算法，沒有通過指令系統的翻譯。

FPGA的英文縮寫名翻譯過來，全稱是現場可編程邏輯門陣列，這個名稱已經揭示了FPGA的功能，它就是一堆邏輯門電路的組合，可以編程，還可以重復編程。不能重復編程的FPGA也有，主要是基于反熔絲技術，主要用于軍事用途。下圖展示了可重復編程FPGA的內部原理圖。

圖 FPGA內部結構圖

FPGA內部可以分為可配置邏輯模塊CLB、輸入輸出模塊IOB和內部連線等三個部分。IOB是FPGA輸入輸出的接口，提供芯片和外界電路的連接，完成不同電氣特性對輸入輸出信號的驅動和匹配。

CLB是FPGA的基本邏輯單元。CLB的實際數量根據芯片種類的不同而不同，以xilinx公司生產的早期FPGA Virtex5系列為例，每個CLB包含兩個silce。每個slice內部包含4個查找表（LUT）、4個觸發器和多路開關等資源。

數字邏輯電路從原理上，是通過時序部件和組合邏輯來完成一系列的功能，而FPGA通過芯片內部眾多的CLB單元提供了眾多的組合邏輯和時序邏輯。因此通過配置CLB就可以實現各種不同的功能。

本文關注的重點不是FPGA的硬件原理，也不是FPGA邏輯設計的技巧和語法，而是從并行計算的角度分析多種芯片和CPU程序設計的特點。

1.5.1 FPGA編程和CPU編程的特點