Helium指令集

這里介紹的是Helium的匯編語言指令集，雖然大部分程序員不會直接使用這些指令，而是通過C語言或者高級語言編程實現，但是了解匯編語言指令集，可以有如下收獲：

在優化C代碼時，為了確定其是否被充分地矢量化，能夠審視編譯器的輸出以及熟悉指令集是非常有幫助的。

當調試不能正常工作的代碼時，通過閱讀反匯編代碼去理解每一行發生了什么，對于尋找代碼的問題是非常有用的。

了解指令集可能有助于編寫高效的代碼，甚至節省功耗，尤其是在使用原語函數的情況下。

Helium指令結構和其他Cortex-M處理器中的VFP（浮點）指令結構是相似的。

Helium指令格式如下：

Helium指令都是以字母V開始的，然后跟著如下符號，符合中的{}是可選的，<>是必須出現的：

mod：指令修飾符，可能沒有，也可能是Q（saturating）飽和，H（halving）減半，D（doubling）加倍，R（rounding）四舍五入中的一個。

op：具體操作，例如ADD（相加），SUB（相減），CMP（比較）等。

shape：有些指令中，可以選擇性的指定L（long）或N（narrow），這是 “形態” 相關的修飾符。

- L：Long表示輸入元素在操作前會被擴寬。1個8位的元素可能會被擴寬為16位或32位，或者1個16位元素被擴寬為32位。

- N：Narrow表示輸入元素在操作前會被壓縮。

extra：有些指令中的特定修飾符，可能是T（top），B（bottom），A（accumulate），X（exchange）或者V（across）中的一個。

cond：此處指定的條件僅適用于VPT（Predication）模塊。可能是T（Then）或者E（Else）。

.dt：數據類型，可能是F（float）浮點，I（integer）整數，S（signed）有符號，U（unsigned）無符號。

dst：目標寄存器，可以是通用寄存器（R）或者矢量寄存器（Q）。

src：源寄存器，可以是通用寄存器（R）或者矢量寄存器（Q）。

rot：旋轉，用于一些操作復數的指令。

下面給出一條指令示例展示：

VLDRW.U32 Q0, [R0]

該指令中的首字母是V，表示這是一條Helium（或是Neon，或者浮點）指令，LDR表示寄存器從內存加載內容，W表示按字大小操作，，，都為空，數據類型是U32，無符號32位整數。加載的目標是128位寄存器Q0（矢量寄存器），源是標量寄存器R0指向的內存地址。該指令表示將從R0存儲的地址中加載4個32位寬的數據到Q0寄存器中。

Helium指令分類如下：

Helium編程方式

Helium編程方式目前來說，一共4種。

矢量庫

自動矢量化

原語函數（intrinsics）編程

匯編指令編程

矢量庫

目前，ARM CMSIS DSP和NN是已經對Helium優化好的Helium矢量庫。使用矢量庫來進行Helium編程，是最簡單的方法。

CMSIS DSP是數字信號處理函數庫，具有針對8位整數，16位整數，32位整數和32位浮點數的不同函數，提供了豐富的函數，包括基本數學函數，復數數學函數，濾波器函數，變換函數，矩陣操作函數，電機控制函數，插值函數，統計函數等。該庫包含了這些函數的Helium優化版本，并不斷更新迭代中。

CMSIS NN是神經網絡函數庫，以最小的內存開銷針對Cortex-M處理器優化的軟件內核，同樣地，這些函數也可以利用Helium得到最優性能。

CMSIS矢量庫中的函數代碼有3個C預處理器定義來選擇Helium版本。

#define ARM_MATH_HELIUM
#define ARM_MATH_MVEI    //支持整型Helium
#define ARM_MATH_MVEF    //支持浮點型Helium

比如CMSIS DSP中的 arm_clip_f32函數，可以看到該函數已經使用了Helium原語函數。

比如CMSIS NN中的arm_nn_lstm_update_cell_state_s16函數，可以看到該函數使用了Helium原語函數。

當使用矢量庫的時候，不同編譯器中的MVE設置

Keil MDK 5（5.38以上版本）

在圖標“Options for target”中選擇“Target”頁面中的“Vector Extensions”,通過下拉列表選擇

“Not Used”（不使用helium，即宏ARM_MATH_HELIUM沒有被定義，使用標量相關函數）。

“Integer”（宏ARM_MATH_HELIUM和ARM_MATH_MVEI被定義，使用整型Helium）。

“Integer + Floating Point” （宏ARM_MATH_HELIUM，ARM_MATH_MVEI和ARM_MATH_MVEF被定義，使用整型和浮點型Helium）。

IAR EWARM（v9.40.1以上版本）

通過右鍵選擇項目名稱后，在 “Options”中的“General Options”頁面下的“32-bit”中的“Advanced SIMD(NEON/HELIUM)”。

勾選（即選中，ARM_MATH_HELIUM，ARM_MATH_MVEI和ARM_MATH_MVEF被定義，使用整型和浮點型Helium）。

不勾選（即不選中），編譯的時候會報“MVE support not enable”錯誤。

e2 studio

e2 studio中可以使用LLVM或者GCC工具鏈，在使用矢量庫的時候，不需要設置，默認是啟用的。如果通過設置編譯參數來禁用，編譯的時候會報“MVE support not enable”錯誤。

自動矢量化

自動矢量化就是編譯器在C/C++代碼中自動檢測到可以使用Helium指令并執行優化的過程。優化后的代碼在速度和尺寸方面可能與手工優化的匯編代碼或包含原語函數的C代碼一樣高效，這只需要很少的時間去編寫和調試代碼，而且無須對目標微架構有詳細了解。C代碼也更有可移植性。

如下面的代碼，這是一種很常見的普通寫法，一個for循環里面做一些邏輯判斷處理。

點擊可查看大圖

通過使用自動矢量化后的反匯編代碼如下，紅色框部分的代碼里面已經出現了Helium的匯編指令。

自動矢量化和編譯器的優化等級設置有關，當Arm Complier 6和LLVM編譯器的優化等級為-O2或者更高時，自動矢量化默認使能，在MDK ArmComplier 6中可以使用“-fno-vectorize”選項可以禁止自動矢量化。當優化等級為-O1時，自動矢量化默認禁止，使用“-fvectorize”選項可以使能自動矢量化，當優化等級為-O0時，自動矢量化總是被禁止。其他編譯器的行為可能不同，具體可以查閱對應的文檔。

原語函數（intrinsics）編程

原語函數是允許利用Helium而不必直接編寫匯編代碼的一組C/C++函數。ACLE文檔中包括Helium原語規范。目前最新的文檔為mve-2021Q4。原語函數的實現包含在arm_mve.h文件中。函數包含簡短的匯編語言部分，它們被內聯到調用的代碼中。

使用原語函數有如下優點：

程序員能夠直接訪問Helium指令集，這允許編寫充分優化的代碼，利用所有Helium特性。

C/C++可用于大多數代碼，只有當需要優化而矢量化C編譯器無法執行優化時，才會使用Helium原語。這就意味著只有在必要時才使用底層代碼。

相比于采用匯編語言編寫的代碼，含有Helium原語的C和C++代碼可以移植到一個新的平臺，僅需要少量修改，甚至無須修改。

使用原語避免了很多與直接使用匯編語言編碼相關的難點。

原語函數中，Helium矢量數據類型名字模式如下所示，這在“arm_mve.h”中有詳細定義和描述。

x_t

type：元素類型，可能是int整形，uint無符號整形，float浮點。

size：元素大小，可能是8位，16位，32位。

number_of_lanes：通道總數。可以是16通道，8通道，或者4通道。

如：

uint8x16_t是一個描述16個無符號8位的矢量。

int16x8_t是一個描述8個16位的矢量。

float16x8_t是一個描述4個16位浮點數（半精度）的矢量。

float32x4_t是一個描述4個32位浮點數（單精度）的矢量。

注：Helium是128位寄存器，它的元素大小和通道總數相乘的結果只能是128，不能是64，也就是說，不支持int8x8_t/uint8x8_t/int16x4_t/uint16x4_t/float16x4_t/float32x2_t數據類型。這點和Neon是不同的。Neno可以支持64和128。

Helium矢量數組結構體類型如下：

xx_t

可以發現，矢量數組結構體名字只比單個矢量數據類型多了一個length_of_array。它表示一共有幾個helium寄存器組成，即helium寄存器的數量。在該結構體中，包含一個名為val的元素，此結構體類型映射Helium加載和存儲操作訪問的寄存器，Helium可以用一條指令加載/存儲多達4個寄存器。結構定義示例如下：

struct int16x8x2_t

{

int16x8_t val[2];

};

此結構類型僅由加載、存儲、轉置、交織和去交織指令使用；要對實際數據執行操作，請從各個寄存器中選擇元素。如：.val[0] 和.val[1]。

下圖代碼片段是使用原語函數進行矢量相乘的例子。

原語編程里面還涉及原語預測，原語尾部處理等知識，本處不在展開說明，詳細信息可以訪問arm官網查閱相關文檔了解和學習。

匯編語言編程

在匯編代碼中直接編寫Helium指令是很沒有必要的，通常只會在特殊的場景下才會這樣做。即當編程人員可以比編譯器更好地分配寄存器時，比如有太多重寫變量和輸入輸出變量。

下圖所示為復數矢量點積的匯編語言代碼。