《面向異構(gòu)計算的軟件加載運行技術(shù)規(guī)范》

ICS35.240

CCSL70

團體標準

T/CESAXXXX-202X

面向異構(gòu)計算的軟件加載運行技術(shù)

規(guī)范

Specificationofsoftwareloadingandrunningtechniquesforheterogeneous

computing

征求意見稿

在提交反饋意見時，請將您知道的相關(guān)專利連同支持性文件一并附上。

已授權(quán)的專利證明材料為專利證書復(fù)印件或扉頁，已公開但尚未授權(quán)的專利申

請證明材料為專利公開通知書復(fù)印件或扉頁，未公開的專利申請的證明材料為專利

申請?zhí)柡蜕暾埲掌凇?/p>

202X-XX-XX發(fā)布202X-XX-XX實施

中國電子工業(yè)標準化技術(shù)協(xié)會發(fā)布

T/CESAXXXX202X

面向異構(gòu)計算的軟件加載運行技術(shù)規(guī)范

1范圍

本文件規(guī)定了面向異構(gòu)計算的軟件加載運行技術(shù)要求及對應(yīng)的測試方法。其中加載過程的技術(shù)要

求包含時延、存儲需求、兼容性、完整性、緩存性能；運行過程的技術(shù)要求包含響應(yīng)時間、運行時間、

計算時間、輸入輸出時間、內(nèi)存占用、功耗。

本文件適用于異構(gòu)計算場景下軟件的設(shè)計和使用者。

2規(guī)范性引用文件

下列文件中的內(nèi)容通過文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款。其中，注日期的引用文件，

僅該日期對應(yīng)的版本適用于本文件；不注日期的引用文件，其最新版本（包括所有的修改單）適用于本

文件。

GB/T25000.40—2018系統(tǒng)與軟件工程系統(tǒng)與軟件質(zhì)量要求和評價（SQuaRE）第40部分：評

價過程

3術(shù)語和定義

下列術(shù)語和定義適用于本文件。

3.1

異構(gòu)計算heterogeneouscomputing

在一個計算系統(tǒng)中，同時使用多種不同體系結(jié)構(gòu)或不同類型的處理器、加速器或協(xié)處理器來執(zhí)行計

算任務(wù)或?qū)崿F(xiàn)業(yè)務(wù)功能的計算范式。

3.2

運行時間runtime

軟件從被啟動到完成規(guī)定任務(wù)后被操作系統(tǒng)終止所經(jīng)歷的時間。

3.3

完備運行時間completeruntime

軟件代碼及數(shù)據(jù)全部被加載到內(nèi)存中時執(zhí)行所需的時間，軟件在完備運行時不會引發(fā)缺頁中斷。

3.4

存儲盤storagedisk

指代計算機中的所有具有存儲功能的設(shè)備，包括固態(tài)盤、硬盤和光盤等。

3.5

1

T/CESAXXXX202X

交互式軟件interactivesoftware

是指通過用戶界面與用戶進行實時互動的軟件。

3.6

內(nèi)核態(tài)kernelmode

是指計算機陷入內(nèi)核，執(zhí)行內(nèi)核代碼的工作狀態(tài)。

3.7

用戶態(tài)usermode

是指進程執(zhí)行非內(nèi)核代碼的工作狀態(tài)。

4概述

在異構(gòu)計算環(huán)境下，軟件的加載和運行依賴軟件加載技術(shù)和軟件運行技術(shù)兩個方面。其中，軟件加

載是軟件運行的前提，見圖1：

a)軟件加載技術(shù)：軟件加載是計算機操作系統(tǒng)將軟件從外部存儲器載入內(nèi)存的過程。軟件加載分

為本地加載和遠程加載兩種方式。

1)本地加載是操作系統(tǒng)從本機存儲盤中讀取軟件的代碼和數(shù)據(jù)并載入內(nèi)存的過程；

2)遠程加載是操作系統(tǒng)通過網(wǎng)絡(luò)從另一設(shè)備讀取軟件的代碼和數(shù)據(jù)并載入內(nèi)存的過程。

b)軟件運行技術(shù)：軟件運行是軟件在計算機上執(zhí)行其功能的過程，軟件運行分為完備運行和按需

加載運行兩種方式。

1)完備運行是操作系統(tǒng)將軟件的代碼和數(shù)據(jù)全部加載到內(nèi)存后的運行過程，軟件在完備運行

時不會觸發(fā)加載過程；

2)按需加載運行是操作系統(tǒng)一邊運行軟件一邊讀取后續(xù)所需的代碼和數(shù)據(jù)并載入內(nèi)存的過

程。

獲取

軟件運行技術(shù)完備運行按需加載運行性能指標

獲取

軟件加載技術(shù)本地加載遠程加載性能指標

操作系統(tǒng)

計算機硬件

圖1軟件加載運行技術(shù)框架

5技術(shù)要求

5.1軟件加載技術(shù)要求

5.1.1時延

2

T/CESAXXXX202X

時延是軟件從加載過程開始起，至加載結(jié)束時刻止所需的時間。時延要求包括本地加載時延和遠程

加載時延：

a)本地加載時延

操作系統(tǒng)從本機存儲盤中讀取軟件的代碼和數(shù)據(jù)并載入內(nèi)存的時延。交互式軟件加載時延應(yīng)

小于200ms。

b)遠程加載時延

操作系統(tǒng)通過網(wǎng)絡(luò)從另一設(shè)備讀取軟件的代碼和數(shù)據(jù)并載入內(nèi)存的時延。交互式軟件加載時

延應(yīng)小于200ms。

5.1.2存儲盤

加載過程所要求的本機最小存儲盤資源量。軟件進行遠程加載時可選擇是否保存到本地存儲盤。不

需要保存到本地的軟件對存儲盤不做要求，需要保存到本地的軟件其存儲盤要求應(yīng)小于等于軟件提供

者在發(fā)布軟件時規(guī)定的存儲要求。

5.1.3兼容性

兼容性要求包括設(shè)備兼容性和系統(tǒng)兼容性：

a)設(shè)備兼容性

軟件與硬件設(shè)備相互協(xié)調(diào)工作的程度，即軟件是否適配硬件。對于支持異構(gòu)系統(tǒng)的軟件，其源

代碼應(yīng)至少兼容2種及以上類型的異構(gòu)硬件平臺(GPU/NPU/FPGA/DPU等)。

b)系統(tǒng)兼容性

軟件加載后與操作系統(tǒng)平臺相互協(xié)調(diào)工作的程度?？缙脚_軟件的源代碼應(yīng)至少適配2種以上

的操作系統(tǒng)平臺。

5.1.4可擴展性

軟件加載到本地后的可擴展程度，即是否能夠在本地添加新的功能模塊。對于可擴展軟件應(yīng)當在加

載完成后支持本地功能擴展，對于不可擴展軟件不允許在加載后進行功能擴展。

5.1.5完整性

軟件加載部分占完整軟件大小的比例。未使用軟件的全部功能情況下只需要加載軟件的部分代碼，

加載完整性可小于100%。

5.1.6緩存性能

緩存性能包括本地緩存命中率和緩存占用的硬件資源：

a)本地緩存命中率

軟件申請加載所需資源時，從緩存中成功獲得所需資源的概率。緩存機制啟用時必須能夠命中

本地緩存。

b)緩存占用的硬件資源

緩存占用的存儲盤、內(nèi)存等硬件資源量。軟件緩存占用的存儲盤、內(nèi)存資源不能超過軟件加載

運行過程的存儲盤要求和內(nèi)存占用要求。

5.2軟件運行技術(shù)要求

5.2.1響應(yīng)時間

3

T/CESAXXXX202X

響應(yīng)時間是從用戶啟動軟件到軟件第一次被處理器調(diào)度的排隊時間，軟件從啟動后直到第一次被

處理器調(diào)度才開始進行加載過程。對于交互式軟件，軟件響應(yīng)時間應(yīng)小于200ms。

5.2.2運行時間

運行時間要求包括本地運行時間、遠程運行時間和緩存機制下的運行時間：

a)本地運行時間

軟件從本地存儲盤獲取運行所需資源的運行時間，本地運行時間包含缺頁時從盤讀取數(shù)據(jù)的

時間。本地運行時間應(yīng)大于等于完備運行時間。

b)遠程運行時間

軟件從遠程獲取運行所需資源的運行時間，遠程運行時間包含缺頁時從遠程加載數(shù)據(jù)的時間。

當網(wǎng)絡(luò)速度大于盤讀取速度時，遠程運行時間應(yīng)小于本地運行時間，但大于完備運行時間；當

網(wǎng)絡(luò)速度小于盤讀取速度時，遠程運行時間應(yīng)大于本地運行時間。

c)緩存機制下的運行時間

在緩存機制作用下軟件的運行時間，緩存避免了從盤讀取或是從遠程加載數(shù)據(jù)的部分過程。緩

存機制下的運行時間應(yīng)小于等于相同條件下無緩存機制下的運行時間。

5.2.3計算時間

計算時間是軟件使用處理器進行計算的總時間。計算時間包括內(nèi)核態(tài)計算時間、用戶態(tài)計算時間和

軟件計算時間：

a)內(nèi)核態(tài)計算時間

軟件在內(nèi)核態(tài)下使用處理器的總時長。I/O密集型軟件會產(chǎn)生內(nèi)核態(tài)計算時間,計算密集型軟

件可能會產(chǎn)生內(nèi)核態(tài)計算時間。

b)用戶態(tài)計算時間

軟件在用戶態(tài)下使用處理器的總時長。內(nèi)核線程不會產(chǎn)生用戶態(tài)計算時間，用戶程序會產(chǎn)生用

戶態(tài)計算時間。

c)軟件計算時間

軟件運行過程中總共使用的處理器時間。軟件在運行過程中會產(chǎn)生計算時間，這個計算時間應(yīng)

在計算機的運行時長范圍內(nèi)。

5.2.4輸入輸出時間

輸入輸出時間是軟件申請外部設(shè)備獲取輸入和進行結(jié)果輸出的總時間。需要調(diào)用外設(shè)操作的軟件

會產(chǎn)生軟件輸入輸出時間，不調(diào)用外設(shè)的軟件則不會產(chǎn)生軟件輸入輸出時間。

5.2.5內(nèi)存占用

軟件運行過程中所需要占用的最大內(nèi)存量。軟件的內(nèi)存占用應(yīng)小于等于軟件提供者在發(fā)布軟件時

規(guī)定的最大內(nèi)存要求。

5.2.6軟件功耗

運行軟件需要消耗的功率。軟件的功耗不能超過當前處理器的最大功耗。

6測試方法

6.1加載性能

4

T/CESAXXXX202X

6.1.1時延

a)本地加載時延

軟件存儲在本地盤的情況下，本地加載時延X按照公式1給出的方法計算。

X=BA?·············································(1)

式中：

——加載開始時刻；

——加載結(jié)束時刻。

????

b)遠程加載時延

????

軟件存儲在遠程服務(wù)器的情況下，遠程加載時延X按照公式2給出的方法計算。

X=BA?···············································(2)

式中：

——加載開始時刻；

——加載結(jié)束時刻。

????

6.1.2存儲盤????

存儲盤需求X按照公式3給出的方法計算。

X=BA?···············································(3)

式中：

——加載開始前已使用的存儲盤資源量；

——加載完成后已使用的存儲盤資源量。

????

6.1.3兼容性????

a)設(shè)備兼容性

設(shè)備兼容性判斷軟件的二進制代碼能否被硬件設(shè)備執(zhí)行。若軟件二進制代碼能被硬件設(shè)備執(zhí)

行，并得到正確執(zhí)行結(jié)果，則軟件與硬件設(shè)備兼容；反之，軟件與硬件設(shè)備不兼容。兼容性

X按照公式4給出的方法計算。

=/·················································(4)

式中：

????????????

——需要測試的全部硬件設(shè)備數(shù)；

——能夠兼容的硬件設(shè)備數(shù)。

????

b)系統(tǒng)兼容性

????

系統(tǒng)兼容性判斷操作系統(tǒng)能否正確識別并運行軟件。若操作系統(tǒng)能識別并運行軟件，則軟件

與操作系統(tǒng)兼容；反之，軟件與操作系統(tǒng)不兼容。兼容性X按照公式5給出的方法計算。

=/·················································(5)

式中：

????????????

——需要測試的全部操作系統(tǒng)數(shù)；

——能夠兼容的操作系統(tǒng)數(shù)。

????

6.1.4擴展性????

擴展性判斷軟件是否能在原有基礎(chǔ)上添加新的功能模塊。若軟件支持添加新的功能模塊，則

軟件可擴展；否則，軟件不可擴展。擴展性X按照公式6給出的方法計算。

=/·················································(6)

????????????5

T/CESAXXXX202X

式中：

——需要擴展的全部功能模塊數(shù)；

——擴展成功的功能模塊數(shù)。

????

6.1.5完整性????

加載完整性X按照公式7給出的方法計算。

A

X=×100%·············································(7)

B

式中：

——加載的軟件大??；

——完整軟件的總大小。

????

6.1.6緩存????

a)本地緩存命中率

本地緩存命中率X按照公式8給出的方法計算。

A

X=×100%·············································(8)

B

式中：

——從緩存中成功獲得的資源量；

——軟件運行時申請資源總量。

????

b)緩存占用的硬件資源

????

緩存占用的硬件資源X按照公式9給出的方法計算。

X=BA?···············································(9)

式中：

——無緩存機制時運行軟件所需的磁盤資源量；

——緩存機制下軟件運行所需的磁盤資源量。

????

6.2運行性能????

6.2.1響應(yīng)時間

a)軟件響應(yīng)時間

軟件響應(yīng)時間X按照公式10給出的方法計算。

X=BA?·············································(10)

式中：

——啟動軟件的時刻；

——軟件第一次被處理器執(zhí)行的時刻。

????

6.2.2運行時間????

a)本地運行時間

本地運行時間在軟件存儲在本地盤等后備存儲的情況下計算，本地運行時間X按照公式11

給出的方法計算。

6

T/CESAXXXX202X

X=BA?·············································(11)

式中：

——軟件開始運行的時刻；

——軟件完成指定任務(wù)的時刻。

????

b)遠程運行時間

????

遠程運行時間在軟件存儲在遠程服務(wù)器的情況下計算，遠程運行時間X按照公式12給出的

方法計算。

X=BA?·············································(12)

式中：

——軟件開始運行的時刻；

——軟件完成指定任務(wù)的時刻。

????

c)緩存機制下的運行時間

????

開啟緩存機制后，緩存機制下的運行時間X按照公式13給出的方法計算。

X=BA?·············································(13)

式中：

——軟件開始運行的時刻；

——軟件完成指定任務(wù)的時刻。

????

6.2.3計算時間????

a)內(nèi)核態(tài)計算時間

內(nèi)核態(tài)計算時間X通過累計軟件在內(nèi)核態(tài)下的處理器使用時間獲得,按照公式14給出的方法

計算。

=··············································(14)

式中：????

????∑????=1????

——內(nèi)核態(tài)下經(jīng)歷的總時間片數(shù)；

——處理器時間片。

????

b)用戶態(tài)計算時間

????

用戶態(tài)計算時間X通過累計軟件在用戶態(tài)下的處理器使用時間獲得,按照公式15給出的方法

計算。

=··············································(15)

式中：????

????∑????=1????

——