HLS最全知識庫

副標題-FPGA高層次綜合HLS(二)-Vitis HLS知識庫

高層次綜合（High-level Synthesis）簡稱HLS，指的是將高層次語言描述的邏輯結構，自動轉換成低抽象級語言描述的電路模型的過程。

對于AMD Xilinx而言，Vivado 2019.1之前（包括），HLS工具叫Vivado HLS，之后為了統一將HLS集成到Vitis里了，集成之后增加了一些功能，同時將這部分開源出來了。Vitis HLS是Vitis AI重要組成部分，所以我們將重點介紹Vitis HLS。

官方指南：

https://docs.xilinx.com/r/_lSn47LKK31fyYQ_PRDoIQ/root

重要術語

LUT 或 SICE

LUT 或 SICE是構成了 FPGA 的區域。它的數量有限，當它用完時，意味著您的設計太大了！

BRAM 或 Block RAM

FPGA中的內存。在 Z-7010 FPGA上，有 120 個，每個都是 2KiB（實際上是 18 kb）。

Latency延遲

• 設計產生結果所需的時鐘周期數。
• 循環的延遲是一次迭代所需的時鐘周期數。

Initiation Interval (or II, or Interval間隔)

• 在接受新數據之前必須執行的時鐘周期數。

這與延遲不同！如果函數是流水線的，許多數據項會同時流過它。延遲是一個數據項被推入后彈出的時間，而時間間隔決定了數據可以被推入的速率。

• 循環的間隔是可以開始循環迭代的最大速率，以時鐘周期為單位。

上圖中，左邊是函數右邊是循環，左邊的時間間隔（接收新數據之前）是3個時鐘周期，右邊循環的間隔則是一個時鐘周期；對于左邊的延遲是這個函數產生結果的時鐘周期數，是func_C運行完畢產生的周期數，為5個時鐘周期，右邊循環的延遲是一次迭代所需的時鐘數，是4個時鐘周期。

上面的概念非常重要，要不然下面的一些指令作用也看不懂~

重要的指令

這是在實際使用過程中重要的指令列表（不是全部）。

• Functions-函數

• loops-循環

• Various-所有都適合

• Arrays-數組

• parameters-參數

任意精度類型

可以在 HLS 中使用普通的 C 類型（int、 char等）變量。但是，設計中的常用的寄存器并不完全需要 4、8 或 16 位寬，那么可以使用任意精度類型來準確定義需要多寬的數據類型，而不是接受這種低效率的通用定義。

下面展示了如何使用 C 和 C++ 風格的任意精度類型。我們建議使用 C++，除非有特定的理由不這樣做。

在 C 中：

包含 頭文件。然后，可以聲明具有如下類型的變量：

在 C++ 中：

包含 頭文件。然后，可以聲明具有如下類型的變量：

按照上面的設置應該能夠正常打印任意精度類型，但是如果在調試過程中得到奇怪的值，請先使用printf調用to_int()：

ap_uint<23>myAP;
printf("%d
",myAP.to_int());

復位行為

在 HLS 中，所有靜態和全局變量都被初始化為零（如果給定了初始化值，則初始化為其他值）。這包括 RAM，其中每個元素都被清除為零。然而，這種初始化只發生在 FPGA 首次編程時。任何后續處理器復位都不會觸發初始化過程。

如果需要清除設備的內部狀態，那么應該包含某種復位協議（根據復位狀態處理所需要的程序）。

AXI 從接口和 AXI 主接口

可以在 HLS 組件中使用兩個接口，即 AXI Slave 和 AXI Master。

• AXI Slave：ARM 內核使用此接口來啟動和停止 HLS 組件。他們還可以使用此接口來讀取和寫入相對少量的用戶定義值。

• AXI Master：如果需要更大量的共享數據，HLS 組件可以使用 AXI Master 接口啟動事務以從主系統內存讀取和寫入數據。

可以通過toplevel在 HLS 組件中為函數指定參數并將指令附加到這些參數來定義所需的接口。下面顯示了一個只有從接口的組件：

帶有AXI Slave的 HLS 組件

uint32toplevel(uint32*arg1,uint32*arg2,uint32*arg3,uint32*arg4){
#pragmaHLSINTERFACEs_axiliteport=arg1bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg2bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg3bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg4bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=returnbundle=AXILiteSregister
}

而下面是一個同時具有從接口和主接口的組件：

具有從屬和主接口的 HLS 組件

uint32toplevel(uint32*ram,uint32*arg1,uint32*arg2,uint32*arg3,uint32*arg4){
#pragmaHLSINTERFACEm_axiport=ramoffset=slavebundle=MAXI
#pragmaHLSINTERFACEs_axiliteport=arg1bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg2bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg3bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg4bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=returnbundle=AXILiteSregister
}

請注意，可以為從接口添加和刪除參數，并更改它們的數據類型，只需記住也要更新關聯#pragmaS。HLS 將相應地更新組件的驅動程序。

PS:主數據類型:由于 AXI 主接口會連接到 32 位寬的 RAM，因此在指定 AXI 主接口時應始終使用 32 位數據類型。

一旦決定了的接口，應該能夠依靠 Vivado 自動化連線來連接一切。

請注意，返回端口的 pragma 很重要！

#pragmaHLSINTERFACEs_axiliteport=returnbundle=AXILiteSregister

//端口=返回包=AXILiteS寄存器

即使不使用函數的返回值，此 pragma 也會告訴 HLS 將 start、stop、done 和 reset 信號捆綁到 AXI Slave 接口中的控制寄存器中。因此，這將生成相應的驅動程序函數來啟動和停止生成的 IP 內核。如果不包含此 pragma，則 HLS 將為這些信號生成簡單的連線，并且 IP 內核將無法直接被 ARM 內核控制。

多種類型的 AXI Master

Vitis HLS在從同一主AXI端口復制值并將其解釋為不同類型時非常挑剔。

例如，以下 memcpy 可能會導致“Stored value type does not match pointer operand type! （存儲值類型與指針操作數類型不匹配！）” ，嘗試將 RAM 視為uint32 和float類型時，綜合過程中將會產生 LLVM 錯誤：

voidtoplevel(uint32*ram){
#pragmaHLSINTERFACEm_axiport=ramoffset=slavebundle=MAXI
uint32u_values[10];
floatf_values[10];

memcpy(u_values,ram,40);
memcpy(f_values,ram+10,40);
}

為了正確強制從 RAM 中復制數據的類型信息，可以使用union，如下所示：

typedefunion{
uint32u;
floatf;
}ram_t;

voidtoplevel(ram_t*ram){
#pragmaHLSINTERFACEm_axiport=ramoffset=slavebundle=MAXI
uint32u_values[10];
floatf_values[10];

for(inti=0;ifor(inti=0;i

此外，只要循環邊界從零開始（并且是固定的），HLS應該足夠聰明，將其視為類似于memcpy的突發傳輸-在綜合過程中查找“推斷MAXI端口上長度為X的總線突發讀取”來證實這一點。

強制和阻止使用 Block RAM

HLS 會自動將大部分ARRAY轉換為 BRAM。這通常很有用，因為寄存器ARRAY在 LUT（FPGA 空間）方面非常昂貴。但是，FPGA 的 BRAM 數量有限。BRAM 也只有 2 個訪問端口。這意味著在任何時候最多有兩個并行進程可以訪問 RAM。這可能會限制設計的并行性潛力。

如果HLS使用的是不希望使用的BRAM，則將類型設置為COMPLETE且維度設置為1的指令array_PARTITION應用于數組。這將迫使它從寄存器中生成數組。這會占用大量的FPGA空間（LUT），所以要節約！

要強制 HLS 使用 BRAM，請將指令BIND_STORAGE集應用到 RAM_2P。（添加時按下幫助按鈕可查看所有各種選項的說明）。

該 ARRAY_MAP 指令（見上文）可以通過自動將多個較小的數組放入一個較大的數組來幫助節省 Block RAM。

當更改 HLS 時

當更改 HLS 代碼時，請執行以下步驟以確保bitfile已更新，方便進行正確地測試。

• 1、重新運行綜合。
• 2、重新導出 IP 核。
• 3、在 Vivado 中，它應該已經注意到了變化，并且會出現一條消息說“IP Catalog is out-of-date”。a、如果沒有，請單擊 IP Status，然后單擊重新運行報告

b、單擊刷新 IP 目錄

c、在 IP Status面板中，應選擇 toplevel IP。單擊 Upgrade 選項。

• 4、在“Generate Output Products”對話框中，單擊“Generate”。

• 5、單擊生成比特流。

• 6、導出硬件到 Vitis。

• 7、在 Vitis 中重新編程 FPGA 并運行軟件。

現在應該明白了為什么測試和仿真如此重要了！

循環優化

在 HLS 中，可以將指令應用于循環以指示它展開或流水線。考慮以下循環：

myloop:for(inti=0;i

默認情況下，HLS 將按順序執行循環的每次迭代。它的執行將如下所示：

如果循環的每次迭代需要 10 個時鐘周期，那么循環總共需要 30 個周期才能完成。

如果我們給這個循環 PIPELINE 指令，那么 HLS 將嘗試在元素 0 完成之前開始計算元素 1，從而創建一個PIPELINE。這意味著循環的整體執行時間會更短，但代價是更復雜的控制邏輯和更多的寄存器來存儲中間數據。循環如下所示：

只有在沒有阻止此優化的依賴項時，它才能執行此操作。考慮以下代碼：

intlastVal;

for(inti=0;i

在此示例中，循環被迫按順序執行，因為在下一次循環迭代開始時需要在循環體末尾使用計算出的值。PIPELINE 仍然會試圖加快速度，但不會大幅加快。

最后，如果我們給循環 UNROLL 指令，那么 HLS 將嘗試并行執行循環的迭代。這需要更多的硬件，但速度非常快。在我們的示例中，整個循環只需要 10 個周期。

這要求循環的元素之間沒有數據依賴關系。例如，如果 doSomething() 保留一個執行次數的全局計數器，則此依賴項將阻止 UNROLL 指令工作。

請注意，UNROLL默認情況下會嘗試展開循環的所有迭代。這可能會導致非常大的設計！為了使事情更合理，可以設置UNROLL的FACTOR參數來告訴工具要創建多少副本。

應用UNROLL后，最好在分析視圖中查看它是否實際應用。成功展開的設計在分析視圖中將非常“垂直”，表示同一列中的操作同時發生。如果視圖仍然非常“水平”且有很多列，那么很可能是數據依賴項阻止了展開。可以嘗試通過單擊操作來確定是什么阻止了展開。該工具將繪制箭頭以顯示輸入的內容和輸出的內容。請記住，BlockRAM 一次只能進行兩次訪問，因此，如果有一個大型ARRAY，而這些工具是從 BlockRAM 制作的，則展開或流水線操作最多只能創建 2 個副本。可以告訴工具不要使用帶有ARRAY_PARTITION指令的塊RAM。這可以快得多，但要使用更多的硬件資源。

數據流優化

如果沒有使用限制資源的指令（例如 ALLOCATION 指令），HLS 會尋求最小化延遲并提高并發性。但是數據依賴性可以限制這一點。例如，訪問數組的函數或循環必須在完成之前完成對數組的所有讀/寫訪問，這就阻止了下一個消耗數據的函數或循環啟動。

函數或循環中的操作可能會 在前一個函數或循環完成其所有操作之前開始操作。

HLS指定數據流優化時：

• 分析順序函數或循環之間的數據流。

這允許函數或循環并行運行，從而減少延遲并提高 RTL 設計的吞吐量，但以增加硬件資源為代價。嘗試一下DATAFLOW ，看看它是否對設計有幫助。

找不到 'crt1.o' 錯誤

當試圖在實驗室硬件以外的機器上運行測試時，可能會收到一個錯誤，抱怨它找不到“crt1.o”。如果是這樣，就需要為項目設置自定義鏈接器標志。

單擊頂部菜單中的“Project”，然后單擊Project Settings。在此框中，單擊左側的“Simulation”，然后將以下內容粘貼到“Linker Flags”框中：

-B"/usr/lib/x86_64-linux-gnu/"

我的循環有？？？latency估計！

有時，HLS 綜合報告將包含？而不是給出最小和最大延遲的值。這是因為設計中至少有一個循環是數據相關的，即它循環的次數取決于 HLS 無法知道的數據值。

例如，下面的代碼：

當綜合在綜合報告中給出以下內容：

如果我們檢查代碼，它將來自ram的元素相加，但要相加的元素的確切數量來自用戶，作為arg1參數輸入。因此，HLS無法提前知道該硬件執行需要多長時間，因為每次運行時它都是可變的。這就是上面我們說的運行時依賴于數據。生成的硬件將正常工作，我們只是無法預測運行需要多長時間。查看循環的細節，HLS仍然可以告訴我們循環的延遲是2，換句話說，它不知道它將迭代多少次，但每次迭代將花費2個時鐘周期。

一般來說，應該盡量避免這種情況。如果 HLS 無法預測最壞的情況，那么它會過于“謹慎”，并且它可能會制造比我們需要的更大的硬件。此外，不能展開具有可變循環邊界的循環。

一些算法從根本上是依賴于數據的，如果這種情況無法避免，那么可以通過將LOOP_TRIPCOUNT指令添加到循環中來告訴 HLS ，假設循環將進行給定次數的迭代，但這僅用于報告目的。生成的硬件將完全相同，但HLS將在循環迭代該次數的假設下生成延遲數。這意味著延遲數字不“正確”，但這仍然有助于了解其他優化是否具有總體積極效果。

定點類型

當需要使用小數運算但又不想支付使用浮點的大量硬件成本時，定點類型很有用。Vitis HLS 用戶指南（https://www.xilinx.com/support/documentation/sw_manuals/xilinx2020_2/ug1399-vitis-hls.pdf）中詳細描述了定點類型，下面是一個簡短示例：

定點示例

#include
#include

ap_fixed<15,?5>a=3.45;
ap_fixed<15,?5>b=9.645;
ap_fixed<20,?6>c=a/b*2;
std::cout<ifmoreaccuracyisrequired.

C標準數學函數（在math.h中）僅針對浮點實現，但Xilinx在hls_math.h中提供了某些函數的定點實現。在hls::命名空間下；例如：hls::sqrt（）、hls::cos（）和hls::sin（）。

此外，以下賽靈思示例代碼顯示了另一種定點平方根實現，在某些情況下可能更有效。

fxp_sqrt.h

#ifndef__FXP_SQRT_H__
#define__FXP_SQRT_H__
#include
#include
usingnamespacestd;

/*
*Providesafixedpointimplementationofsqrt()
*Mustbecalledwithunsignedfixedpointnumberssoconvertbeforecalling,follows:
*ap_ufixed<32,?20>in=input_number;
*ap_ufixed<32,?20>out;
*fxp_sqrt(out,in);
*/
template
voidfxp_sqrt(ap_ufixed&result,ap_ufixed&in_val)
{
enum{QW=(IW1+1)/2+(W2-IW2)+1};//derivemaxrootwidth
enum{SCALE=(W2-W1)-(IW2-(IW1+1)/2)};//scale(shift)toadjinitialremainervalue
enum{ROOT_PREC=QW-(IW1%2)};
assert((IW1+1)/2<=?IW2);?//?Check?that?output?format?can?accommodate?full?result
???ap_uintq=0;//partialsqrt
ap_uintq_star=0;//diminishedpartialsqrt
ap_ints;//scaledremainderinitializedtoextractedinputbits
if(SCALE>=0)
s=in_val.range(W1-1,0)<else
s=((in_val.range(W1-1,0)>>(0-(SCALE+1)))+1)>>1;
//Non-restoringsquare-rootalgorithm
for(inti=0;i<=?ROOT_PREC;?i++)?{
??????if(s>=0){
s=2*s-(((ap_int(q)<else{
s=2*s+(((ap_int(q_star)<"extraiteration"method
if(s>0)
q=q+1;
//Truncateexcessbitandassigntooutputformat
result.range(W2-1,0)=ap_uint(q>>1);
}
#endif

總結

這是《FPGA高層次綜合HLS》系列教程第二篇，后面會按照專題繼續更新，文章有什么問題，歡迎大家批評指正~感謝大家支持。