2、硬件故障模擬測試
通常,判斷軟件行為是否正常的先決條件之一是其是否運(yùn)行在正確的硬件環(huán)境之下,因為硬件故障對軟件產(chǎn)生的影響往往是致命的和不可預(yù)測的。在實際情況中,越是造價昂貴且承擔(dān)重要任務(wù)的硬件系統(tǒng),其硬件的復(fù)雜度越高,故障率也更高。為了提高系統(tǒng)的可靠性,硬件在設(shè)計上會使用冗余器件的方式(比如多個電源、多個風(fēng)扇、多個交換網(wǎng)板、多個主控板),但在很多情況下,硬件替換做不到對軟件透明,需要依賴軟件檢測并采取一系列措施。此外,軟件還需要設(shè)計足夠的容錯性去隔離硬件錯誤的影響范圍。在非關(guān)鍵器件停止工作之前,軟件需要盡可能保證系統(tǒng)其它功能不受影響。
對測試人員而言,了解軟件對硬件的依賴,通過制造或模擬硬件器件故障檢驗軟件行為的合理性,是可靠性測試的一個重要環(huán)節(jié)。硬件故障測試的目標(biāo)就是觀測和評估軟件在硬件失效時的反映,找出預(yù)期與實際結(jié)果之間的差距。在測試有備份硬件系統(tǒng)的產(chǎn)品時,測試人員往往使用硬件拔出槽位,命令重啟等方式驗證備份機(jī)制的有效性。然而,這還遠(yuǎn)遠(yuǎn)不夠。設(shè)備在實際運(yùn)行條件下器件被拔出只是一種維護(hù)行為,很多情況下是在連續(xù)運(yùn)行過程中,器件突然失效。測試人員需要驗證這些情況,以確認(rèn)軟件設(shè)計的故障檢測機(jī)制和容錯機(jī)制的真實有效性。
由于硬件系統(tǒng)的具體情況不同,每個器件的故障形式和直接影響不同,是否有規(guī)避方案需要具體分析。軟件對硬件可用性的依存度往往很高,因此硬件故障測試的結(jié)果經(jīng)常具有很大的爭議性。對測試結(jié)果的分析和判斷比測試設(shè)計和執(zhí)行更為重要。
現(xiàn)有的測試手段中,最直接的方式是通過改動硬件線路或干預(yù)數(shù)字信號制造故障。此外,可以通過軟件加入調(diào)試命令,對一些關(guān)鍵器件的狀態(tài)進(jìn)行修改,設(shè)置為非法的狀態(tài)來模擬故障。
3、壓力測試
任何設(shè)備或系統(tǒng)都是在一定的工作負(fù)荷下完成其功能。如果外部加入的工作負(fù)擔(dān)超過其最大能力,系統(tǒng)效能會下降甚至是停止工作。這是一種與可用性相背離的特性,卻是任何系統(tǒng)的必然屬性。很多重要系統(tǒng)是通過增加硬件成本,人為降低承諾指標(biāo)來緩解這一問題,然而事實上都存在一個能力極限,除非輸入子系統(tǒng)進(jìn)行了硬性限制。
為了提高設(shè)備的性價比,一般軟件系統(tǒng)不會設(shè)定承載能力的硬性約束,因此,設(shè)備都會面對超負(fù)荷工作的場景。軟件設(shè)計力爭減少超負(fù)荷運(yùn)行的負(fù)面效應(yīng),使系統(tǒng)在合理壓力下能夠正常運(yùn)作是可靠性的一個重要考量。雖然用戶不會要求設(shè)備能在超負(fù)荷的工作環(huán)境下連續(xù)穩(wěn)定運(yùn)行,但在真實網(wǎng)絡(luò)中,負(fù)荷波動是無法避免的,短時間的超載運(yùn)行不應(yīng)該導(dǎo)致災(zāi)難性的后果。
事實上,壓力除了令系統(tǒng)的計算能力經(jīng)受考驗,也會使系統(tǒng)內(nèi)的很多資源被軟件進(jìn)程占用;如果壓力消除以后,這些資源不能被充分釋放和回收,經(jīng)受過壓力的系統(tǒng)將無法完全恢復(fù)正常的工作能力。原因。
壓力測試就是通過制造設(shè)備的超載負(fù)荷,模擬設(shè)備在真實環(huán)境下可能遇到的場景。一臺網(wǎng)絡(luò)設(shè)備會有很多負(fù)載指標(biāo),驗證各個指標(biāo)的超載工作能力是一項繁雜的測試工作。除了觀測壓力下設(shè)備的反應(yīng),在負(fù)荷恢復(fù)到承諾指標(biāo)范圍內(nèi)之后,系統(tǒng)完全達(dá)到正常工作狀態(tài)的能力和恢復(fù)時間也是用戶關(guān)心的指標(biāo)。這些高負(fù)載的測試一般都要依賴專用的測試儀器來模擬。
一般在設(shè)備規(guī)格會寫明產(chǎn)品支持的IP路由表容量、最大轉(zhuǎn)發(fā)數(shù)據(jù)流量、ARP或MAC地址容量等指標(biāo)。測試的工作就是把被測試設(shè)備與測試儀器連接,通過儀器構(gòu)造與規(guī)格指標(biāo)相同或略低的一項負(fù)載,再制造一個10%左右的異常波動沖擊被測設(shè)備,并觀察被測設(shè)備在加載超載負(fù)荷前、負(fù)荷中和恢復(fù)到初始設(shè)定負(fù)荷之后的實際表現(xiàn)。。
不受壓力影響和能快速恢復(fù)的設(shè)備是可能被制造出來的,但是代價是必然提高硬件和軟件成本。因此一個合理的可接受的壓力反應(yīng)和恢復(fù)時間,往往需要根據(jù)用戶的使用場景和可承受成本綜合考慮。
4、內(nèi)存耗盡測試
與硬件發(fā)生故障類似,軟件所要面對的另一種是情況是資源枯竭。因為軟件要流暢地運(yùn)行需要依賴很多外部資源,其中包括:內(nèi)存、定時器、隊列、文件句柄、Socket等等。這些資源中最關(guān)鍵的就是內(nèi)存,因為很多資源不足可以等待,內(nèi)存短缺會導(dǎo)致立即的操作失敗。一個復(fù)雜的軟件系統(tǒng)內(nèi)存資源都是動態(tài)申請和釋放的,在各個處理進(jìn)程之間動態(tài)流轉(zhuǎn)。在突發(fā)任務(wù)占用大量內(nèi)存的情況下,其他任務(wù)就可能面臨資源枯竭。一個良好設(shè)計的軟件系統(tǒng)需要設(shè)定內(nèi)存門限,一旦內(nèi)存消耗達(dá)到門限會強(qiáng)制一些不重要的任務(wù)退出運(yùn)行而釋放資源。而且所有申請內(nèi)存的任務(wù)需要自身設(shè)計保護(hù)代碼,避免沒有申請成功時誤入歧途。
資源耗盡的情況下軟件系統(tǒng)必然會產(chǎn)生一些功能受限的反應(yīng),只要這種情況能在資源充足后得到恢復(fù)就不構(gòu)成嚴(yán)重問題。確認(rèn)系統(tǒng)在資源不足時沒有異常反映,合理屏蔽了次要功能,同時確保高優(yōu)先級進(jìn)程得到應(yīng)得的資源就是軟件測試所要做的工作。
測試手段通常是啟動一些重要的功能和構(gòu)造動態(tài)的運(yùn)行負(fù)荷,然后用調(diào)試命令占用內(nèi)存或啟動一些消耗型任務(wù)占用內(nèi)存,以構(gòu)造資源耗盡的條件,觀察被測系統(tǒng)在內(nèi)存枯竭后的反應(yīng),并繼續(xù)進(jìn)行操作。最后再通過釋放占用的內(nèi)存來恢復(fù)正常條件,觀察系統(tǒng)受影響的功能是否自動恢復(fù)。
內(nèi)存耗盡測試的原理非常簡單,但是因為動態(tài)分配內(nèi)存的指令無處不在,測試覆蓋各種流程分支就要設(shè)定各種組合條件,存在很大執(zhí)行的難度。內(nèi)存耗盡測試可能發(fā)現(xiàn)長期隱藏于軟件中的嚴(yán)重問題,徹底解決這些問題,對軟件的可靠性有很重要的意義。
5、拷機(jī)測試
由于軟件固有的邏輯復(fù)雜性和系統(tǒng)測試手段的限制,有些問題只有在實際環(huán)境下經(jīng)過足夠長時間運(yùn)行才會出現(xiàn)。拷機(jī)測試就是在實驗室模擬設(shè)備運(yùn)行的真實工作場景,通過規(guī)定負(fù)荷及偶發(fā)性過載條件下連續(xù)運(yùn)行,觀測被測設(shè)備連續(xù)無故障運(yùn)行時間,俘獲異常錯誤的測試。
測試所構(gòu)造的工作場景能否還原真實應(yīng)用,是能否提早發(fā)現(xiàn)問題的關(guān)鍵。由于用戶的應(yīng)用場景千差萬別,需要用很多設(shè)備搭建組網(wǎng)來還原,而且必須等候足夠長的時間,這是一種高成本的測試方式,卻又不可替代。測試人員一般會采用頻繁觸發(fā)設(shè)備狀態(tài)變化的手段加速問題出現(xiàn),這對某些問題有效,卻可能隱蔽另外一些問題。
H3C的每個產(chǎn)品都要經(jīng)過嚴(yán)格測試,其中必須進(jìn)行的一項就是長時間的拷機(jī)環(huán)境測試。設(shè)備被接入一個運(yùn)行各種拓?fù)涔芾韰f(xié)議和有大量背景流量的模擬環(huán)境,以驗證設(shè)備在典型應(yīng)用環(huán)境下7*24小時的穩(wěn)定運(yùn)行。即使產(chǎn)品已經(jīng)在市場正式投入使用,這套拷機(jī)環(huán)境還會持續(xù)運(yùn)行,并且經(jīng)常調(diào)整流量和業(yè)務(wù)規(guī)劃,以期覆蓋更多的用戶應(yīng)用環(huán)境。
6、收斂指標(biāo)測試
對網(wǎng)絡(luò)設(shè)備而言,保證網(wǎng)絡(luò)通暢是其最重要的功能之一。因此,網(wǎng)絡(luò)設(shè)備除保障自身連續(xù)運(yùn)行外,還專門設(shè)計了很多從環(huán)境故障中恢復(fù)網(wǎng)絡(luò)連通性的協(xié)議。有些則是針對自身發(fā)生異常時實現(xiàn)冗余硬件切換,流量路徑切換或快速故障恢復(fù)的協(xié)議。針對這些情況,有一個通用的度量指標(biāo),即網(wǎng)絡(luò)收斂指標(biāo),是通過網(wǎng)絡(luò)中斷服務(wù)(或故障恢復(fù))時間來考察設(shè)備或網(wǎng)絡(luò)提供的可靠性。
任何一種網(wǎng)絡(luò)路由協(xié)議或拓?fù)涔芾韰f(xié)議都是為了在動態(tài)變化的網(wǎng)絡(luò)中提供一個可行的流量路徑而設(shè)計的,所以收斂是一個基本屬性。從注入拓?fù)渥兓蚬收习l(fā)生的時間開始,網(wǎng)絡(luò)服務(wù)和數(shù)據(jù)流量受到影響,在拓?fù)涫諗亢舐窂角袚Q到備份網(wǎng)絡(luò)上,恢復(fù)網(wǎng)絡(luò)服務(wù)和流量所經(jīng)歷的時間就是收斂時間。為加速收斂而提出的一。
附加技術(shù)可以使收斂時間縮短到毫秒級甚至在設(shè)備主控發(fā)生重啟等情況下提供不中斷的轉(zhuǎn)發(fā)服務(wù)。
圖4IGP路由收斂測試組網(wǎng)圖
IGP收斂的測試實例。
如圖4所示,被測試設(shè)備首先從B和C端口學(xué)習(xí)到大量的IGP路由信息,其中B端口的度量值優(yōu)于C端口。測試儀器用穩(wěn)定的流量由A端口發(fā)送,被測設(shè)備轉(zhuǎn)發(fā)到B端口。測試儀器通過在B端口模擬拓?fù)渥兓蜂N一部分路由信息,受影響的流量開始丟失。被測試設(shè)備在完成路由計算后將這些流量重新路由到C端口上。測試儀器通過計算這個過程丟失的數(shù)據(jù)流量和發(fā)送速率折算收斂過程經(jīng)歷的時間。
在收斂網(wǎng)絡(luò)之外來評估收斂時間時,可以使用相同的原則,根據(jù)發(fā)送流量的速率和被丟失報文數(shù)量計算出收斂經(jīng)歷的時間。收斂測試的另一個方向是故障恢復(fù)主路徑時,對于流量的保護(hù)。理想的情況可以做到網(wǎng)絡(luò)無中斷地回切到主路徑。然而不同的拓?fù)涔芾韰f(xié)議和具體實現(xiàn)技術(shù)有一定差別,很多情況下回切過程的流量丟失不能完全避免。
常見的收斂指標(biāo)測試有二層網(wǎng)絡(luò)STP收斂測試,RPR和RRPP環(huán)網(wǎng)收斂,三層路由協(xié)議RIP、OSPF、BGP收斂,以及雙主控設(shè)備的主備倒換測試,VRRP設(shè)備倒換測試。為了減少拓?fù)涔芾韰f(xié)議在設(shè)備重啟期間對周邊網(wǎng)絡(luò)的沖擊,很多協(xié)議開發(fā)了GracefulRestart的功能,并通過控制與數(shù)據(jù)轉(zhuǎn)發(fā)分離的Non-StopForwarding技術(shù)使流量轉(zhuǎn)發(fā)近乎不中斷。H3C的IRF2技術(shù)也可以將多個物理設(shè)備組成一個邏輯設(shè)備,以降低對STP、VRRP等慢收斂協(xié)議的依賴。所有這些技術(shù)的目標(biāo)都是減少設(shè)備故障造成的網(wǎng)絡(luò)影響,提高組網(wǎng)的可靠性,而評價這些技術(shù)的指標(biāo)都是網(wǎng)絡(luò)收斂時間。測試執(zhí)行的步驟幾乎是相同的,首先構(gòu)建正常的網(wǎng)絡(luò)拓?fù)洌M故障發(fā)生,監(jiān)測流量切換的過程和流量丟失的情況,計算切換需要的時間。
結(jié)束語
以上的幾種測試類型基本覆蓋了軟件可靠性相關(guān)的測試。在具體的產(chǎn)品開發(fā)過程中,協(xié)議健壯性測試、硬件故障模擬測試、內(nèi)存耗盡測試等適合在軟件功能組件的開發(fā)過程中進(jìn)行測試,而壓力測試、收斂指標(biāo)測試、拷機(jī)測試需要在系統(tǒng)整合并且功能穩(wěn)定后才能實施,所以一般放在產(chǎn)品開發(fā)后期。經(jīng)過全方位的可靠性測試并解決所有問題之后,軟件系統(tǒng)可以應(yīng)對各種內(nèi)部外部的復(fù)雜情況,為用戶提供更高可用性的健壯網(wǎng)絡(luò)。
評論
查看更多