《人工智能驅(qū)動(dòng)的校園欺凌防控管理技術(shù)規(guī)范》

ICS35.240.99

CCSL67

團(tuán)體標(biāo)準(zhǔn)

T/CIXXXX—XXXX

人工智能驅(qū)動(dòng)的校園欺凌防控管理技術(shù)規(guī)

范

Technicalspecificationsforpreventionandcontrolofbullyinginschoolsdrivenby

artificialintelligence

（征求意見稿）

在提交反饋意見時(shí)，請(qǐng)將您知道的相關(guān)專利連同支持性文件一并附上。

XXXX-XX-XX發(fā)布XXXX-XX-XX實(shí)施

中國國際科技促進(jìn)會(huì)發(fā)布

T/CIXXXX—XXXX

人工智能驅(qū)動(dòng)的校園欺凌防控管理技術(shù)規(guī)范

1范圍

本文件給出了基于人工智能的校園防霸凌技術(shù)規(guī)范，主要應(yīng)用于校園防霸凌大模型，規(guī)定了數(shù)據(jù)采

樣、預(yù)處理、多模態(tài)大模型流程邏輯、行為識(shí)別、語音分析、隱私保護(hù)、事件上報(bào)、事件處理、自動(dòng)預(yù)

警、事件追溯、因果推斷等指標(biāo)的要求。

本文件適用于基于人工智能的校園防霸凌技術(shù)規(guī)范，主要應(yīng)用于校園防霸凌大模型，適合以人工智

能技術(shù)為基礎(chǔ)的校園防霸凌系統(tǒng)。

2規(guī)范性引用文件

下列文件中的內(nèi)容通過文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款。其中，注日期的引用文件，

僅該日期對(duì)應(yīng)的版本適用于本文件；不注日期的引用文件，其最新版本（包括所有的修改單）適用于本

文件。

GB/T5271.34-2006信息技術(shù)詞匯第34部分:人工智能神經(jīng)網(wǎng)絡(luò)

GB/T35119-2017產(chǎn)品生命周期數(shù)據(jù)管理規(guī)范

GB/T41867-2022信息技術(shù)人工智能術(shù)語

3術(shù)語和定義

GB/T5271.34-2006，GB/T35119-2017，GB/T41867-2022界定的以及下列術(shù)語和定義適用于本文

件。

鄰接矩陣adjacentmatrix

用以表示交通圖數(shù)據(jù)中不同節(jié)點(diǎn)的空間相關(guān)性權(quán)重的二維正方形矩陣。

無監(jiān)督學(xué)習(xí)unsupervisedlearning

在沒有給定事先標(biāo)記過的訓(xùn)練數(shù)據(jù)情況下，自動(dòng)對(duì)輸入的數(shù)據(jù)進(jìn)行分類。

注意力機(jī)制attentionmechanism

通過額外的神經(jīng)網(wǎng)絡(luò)參數(shù)控制網(wǎng)絡(luò)關(guān)注點(diǎn)的一種手段。

過擬合overfitting

模型對(duì)訓(xùn)練數(shù)據(jù)過于精確地匹配，導(dǎo)致無法很好地適應(yīng)訓(xùn)練集之外的其他數(shù)據(jù)。

欠擬合underfitting

模型沒有很好地識(shí)別到數(shù)據(jù)的特征和規(guī)律，導(dǎo)致無法很好地?cái)M合數(shù)據(jù)。

4縮略語

下列縮略語適用于本文件。

SVM:支持向量機(jī)(SupportVectorMachine)

PCA:主成分分析(PrincipalComponentsAnalysis)

CNN:卷積神經(jīng)網(wǎng)絡(luò)(ConvolutionalNeuralNetwork)

GCN:圖卷積網(wǎng)絡(luò)(GraphConvolutionalNetwork)

RNN:循環(huán)神經(jīng)網(wǎng)絡(luò)(RecurrentNeuralNetwork)

LSTM:長短期記憶網(wǎng)絡(luò)(LongShortTermMemory)

1

T/CIXXXX—XXXX

GMM:高斯混合模型(GaussianMixtureModel)

MAE:平均絕對(duì)誤差(MeanAbsoluteError)

MSE:均方誤差(MeanSquaredError)

RMSE:均方根誤差(RootMeanSquaredError)

MAPE:平均絕對(duì)百分比誤差(MeanAbsolutePercentageError)

5校園欺凌防控管理系統(tǒng)架構(gòu)體系

人工智能驅(qū)動(dòng)的校園防霸凌技術(shù)系統(tǒng)架構(gòu)中可以包含數(shù)據(jù)采樣層、數(shù)據(jù)處理層、校園防控大模型層

和應(yīng)用場景層，具體見圖1。

在采樣層可以利用攝像頭，語音傳感器及校園地圖信息收集視頻音頻等非結(jié)構(gòu)化數(shù)據(jù)，利用問卷、

校園數(shù)據(jù)庫收集學(xué)生的心理健康數(shù)據(jù)、教學(xué)活動(dòng)數(shù)據(jù)等結(jié)構(gòu)化數(shù)據(jù)。在數(shù)據(jù)處理層，利用數(shù)據(jù)編碼、數(shù)

據(jù)聚合、數(shù)據(jù)清洗等方法進(jìn)行數(shù)據(jù)預(yù)處理。最后在算法層通過圖像識(shí)別、知識(shí)圖譜、強(qiáng)化學(xué)習(xí)、深度學(xué)

習(xí)等人工智能算法實(shí)現(xiàn)欺凌行為識(shí)別，情緒分析等實(shí)際的場景應(yīng)用。

圖1人工智能驅(qū)動(dòng)的校園欺凌防控管理技術(shù)架構(gòu)體系

6多模態(tài)數(shù)據(jù)集成融合分析要求

數(shù)據(jù)來源

公開數(shù)據(jù)：包含校園內(nèi)的監(jiān)控錄像，錄音，紅外傳感數(shù)據(jù)，雷達(dá)采集數(shù)據(jù)等公開數(shù)據(jù)用于模型的訓(xùn)

練，訓(xùn)練大模型判斷霸凌發(fā)生的能力。

真實(shí)校園采集數(shù)據(jù)：校園內(nèi)的實(shí)時(shí)監(jiān)控錄像，錄音，紅外傳感等數(shù)據(jù)，作為大模型的數(shù)據(jù)輸入，同

時(shí)也用于修正大模型能力。

學(xué)生個(gè)人信息：通過學(xué)校自身數(shù)據(jù)庫及問卷調(diào)查的方式，獲取學(xué)生的成績，年齡，性別，照片，性

格趨向，個(gè)人關(guān)系。輔助機(jī)器對(duì)霸凌事件的判斷以及識(shí)別出霸凌及被霸凌人員。

2

T/CIXXXX—XXXX

校園信息：通過學(xué)校自身數(shù)據(jù)庫獲取班級(jí)信息，年級(jí)信息，作息安排，輔助機(jī)器對(duì)霸凌事件的判斷

以及按類存儲(chǔ)數(shù)據(jù)。

6.2數(shù)據(jù)處理

6.2.1數(shù)據(jù)清洗

數(shù)據(jù)清洗主要是為了處理噪聲、異常值、缺失值和重復(fù)值，達(dá)成讓模型更加精確的目的，例如：

a)語音識(shí)別可能會(huì)檢測到噪聲過大的數(shù)據(jù)，可以使用信噪比估計(jì)算法（如WADA-SNR）來去除信

噪比很低的音頻；

b)對(duì)于圖像數(shù)據(jù)，可以去除質(zhì)量較低或沒有有效信息的圖像，例如模糊、全黑的圖像；

c)文本數(shù)據(jù)可能會(huì)出現(xiàn)重復(fù)或缺失數(shù)據(jù)，需要將重復(fù)的數(shù)據(jù)去除，對(duì)缺失的數(shù)據(jù)進(jìn)行填充處理，

可利用固定值、均值、中位數(shù)的填充方法，并進(jìn)行分詞、停用詞去除、詞干化等處理；

d)對(duì)于傳感器和紅外數(shù)據(jù)，需要對(duì)因機(jī)器故障檢測到的異常數(shù)據(jù)使用異常檢測算法進(jìn)行修正處

理。

6.2.2數(shù)據(jù)標(biāo)注

針對(duì)不同分類的識(shí)別任務(wù)，需要根據(jù)數(shù)據(jù)的不同類型或不同類別進(jìn)行標(biāo)注處理，用于算法模型的訓(xùn)

練，目前常用的標(biāo)注類別有文本標(biāo)注、語音標(biāo)注、圖像標(biāo)注、3D點(diǎn)云標(biāo)注等。

6.3數(shù)據(jù)分析

6.3.1特征提取

特征提取主要用于減少數(shù)據(jù)維度，提取或整理出有效的特征供后續(xù)使用，針對(duì)不同類型的數(shù)據(jù)，可

以利用不同的特征提取技術(shù)：

a)文本數(shù)據(jù)：文本數(shù)據(jù)固有的非結(jié)構(gòu)化(沒有格式整齊的數(shù)據(jù)列)和嘈雜的特性使得機(jī)器學(xué)習(xí)方法

更難直接處理原始文本數(shù)據(jù)，因此針對(duì)文本數(shù)據(jù)，可以使用詞袋模型、TF-IDF、Word2Vec、BERT、

N-Grams袋等技術(shù)進(jìn)行提取特征；

b)圖像數(shù)據(jù)：圖像識(shí)別實(shí)際上是一個(gè)分類的過程，因此選取的特征不僅要能夠很好地描述圖像，

更重要的是還要能夠很好地區(qū)分不同類別的圖像。常見圖像特征提取的算法和模型有：SIFT、

ORB、HOG、LBP、HAAR、DeepLearning（如CNN）等；

c)音頻數(shù)據(jù)：要對(duì)語音信號(hào)進(jìn)行分析，首先要分析并提取出可表示該語音本質(zhì)的特征參數(shù)。常見

的聲學(xué)特征有：LPC、PLP、MFCC、Fbank、語譜圖等，提取不同的特征需要不同的提取方法，

常見的音頻數(shù)據(jù)特征提取模型有：CNN、RNN、LSTM、VAE等。

6.3.2數(shù)據(jù)融合

融合不同尺度的特征是提高模型性能的一個(gè)重要手段，多模態(tài)特征融合的方法分為四種：特征級(jí)融

合、決策級(jí)融合、混合級(jí)融合和模型級(jí)融合。其中特征級(jí)融合也稱為早期融合，是多模態(tài)識(shí)別系統(tǒng)最常

用的策略，它表示在提取后立即從不同模態(tài)提取的特征連接成單個(gè)高維特征向量的方法。

6.3.2.1特征拼接（Concatenation）

這是最直接和簡單的特征融合方法。簡單地將不同模態(tài)的特征向量端到端拼接在一起，形成一個(gè)長

向量。這種方法保留了每種模態(tài)的原始特征，但可能會(huì)增加模型的復(fù)雜性，且無法捕捉捕捉到不同模態(tài)

之間的交互和關(guān)聯(lián)。

6.3.2.2特征相加（Summation）

將不同模態(tài)的特征向量相加，得到一個(gè)新的特征向量。這種方法需要所有特征向量的維度相同。相

加可以減小模型的復(fù)雜性，但可能會(huì)丟失一些特征信息。假設(shè)有兩個(gè)特征圖A和B，它們的尺寸相同。

特征圖相加后的結(jié)果為A+B。

6.3.2.3特征相乘（Multiplication）

將不同模態(tài)的特征向量相乘，得到一個(gè)新的特征向量。這種方法也需要所有特征向量的維度相同。

3

T/CIXXXX—XXXX

乘法可以捕捉不同模態(tài)之間的交互特性，但計(jì)算復(fù)雜度較高。

6.3.2.4注意力機(jī)制（Attention）

注意力機(jī)制可以為每種模態(tài)的特征分配一個(gè)權(quán)重，然后將加權(quán)的特征進(jìn)行融合。通過訓(xùn)練，注意力

機(jī)制可以學(xué)習(xí)到每種模態(tài)在不同任務(wù)中的重要性。該方法的計(jì)算復(fù)雜度高，同時(shí)需要大量訓(xùn)練數(shù)據(jù)。

6.3.2.5自編碼器（Autoencoder）

自編碼器可以將多模態(tài)的原始特征映射到一個(gè)共享的隱藏空間，然后從隱藏空間中解碼得到融合

特征。這種方法可以捕捉不同模態(tài)之間的共享信息，但訓(xùn)練過程可能較復(fù)雜。

6.3.2.6遞歸神經(jīng)網(wǎng)絡(luò)（RNN）或長短期記憶網(wǎng)絡(luò)（LTSM）

當(dāng)數(shù)據(jù)具有時(shí)間序列性質(zhì)時(shí)，可以使用RNN或LSTM進(jìn)行特征融合。這些模型可以捕捉不同模態(tài)

特征在時(shí)間上的動(dòng)態(tài)變化和相互關(guān)系。

7算法構(gòu)建要求以及評(píng)估指標(biāo)

技術(shù)

7.1.1圖像識(shí)別技術(shù)

7.1.1.1SVM支持向量機(jī)

支持向量機(jī)是一種廣泛應(yīng)用于分類和回歸分析的機(jī)器學(xué)習(xí)模型，在解決小樣本、非線性及高維模式

識(shí)別中表現(xiàn)出許多特有的優(yōu)勢，并能夠推廣應(yīng)用到函數(shù)擬合等其他機(jī)器學(xué)習(xí)問題中。SVM的主要思想是

在特征空間中找到一個(gè)最優(yōu)的超平面，使得正負(fù)樣本間的距離（即間隔）最大化。需要注意的是，SVM

在應(yīng)用時(shí)需要對(duì)圖像進(jìn)行適當(dāng)?shù)念A(yù)處理，例如灰度化、歸一化等，以提高模型的性能。另外，對(duì)于復(fù)雜

的圖像分類問題，可能需要使用核函數(shù)將數(shù)據(jù)映射到高維空間中，使其在高維空間中線性可分。對(duì)于非

平衡數(shù)據(jù)集，可能需要使用類別權(quán)重或者采樣方法來處理類別不平衡問題。

SVM的基本型決策函數(shù)為：

f(??)=???????+?....................................(1)

式中：

??--輸入的特征向量

????--超平面的法向量

T--表示轉(zhuǎn)置

b--截距

SVM通過求解以下優(yōu)化問題來找到最優(yōu)的????和b：

1

min‖????‖2.....................................(2)

????,?2

?

s.t.yi(??????????+?)≥1.................................(3)

式中：

‖????‖2--????的二階范數(shù)，即模長平方

yi--第i個(gè)樣本的類別標(biāo)簽

??????--第i個(gè)樣本的特征向量

在校園欺凌防控上，SVM可以應(yīng)用在圖像識(shí)別和人臉識(shí)別等領(lǐng)域。例如，可以通過攝像頭捕捉校園

內(nèi)的實(shí)時(shí)圖像，然后使用SVM進(jìn)行圖像分類，如果識(shí)別出可能存在的欺凌行為，就可以立即進(jìn)行干預(yù)。

在人臉識(shí)別方面，可以通過SVM識(shí)別出涉及欺凌事件的個(gè)體，提供依據(jù)進(jìn)行后續(xù)處理。

7.1.1.2聚類算法

聚類算法是一種無監(jiān)督學(xué)習(xí)技術(shù)，根據(jù)樣本之間的相似性，將樣本劃分到不同的類別中，形成一個(gè)

“類”或“簇”。對(duì)于不同的相似度計(jì)算方法，會(huì)得到不同的聚類結(jié)果。在圖像識(shí)別中，聚類算法通常

被用于圖像分割、對(duì)象識(shí)別等任務(wù)。K-means聚類算法是最常用的聚類方法之一，K為用戶指定的簇個(gè)

數(shù),每一個(gè)簇通過其質(zhì)心（centroid）,即簇中所有點(diǎn)的中心來描述。其步驟如下：

4

T/CIXXXX—XXXX

a)隨機(jī)設(shè)置K個(gè)特征空間內(nèi)的點(diǎn)作為初始的聚類中心；

b)對(duì)于其他每個(gè)點(diǎn)，計(jì)算到K個(gè)中心的距離，未知的點(diǎn)選擇最近的一個(gè)聚類中心點(diǎn)作為標(biāo)記類別；

c)接著對(duì)著標(biāo)記的聚類中心之后，重新計(jì)算出每個(gè)聚類所有數(shù)據(jù)點(diǎn)的均值，作為新的中心；

d)重復(fù)第2步和第3步，直到中心的變化很小或者達(dá)到預(yù)定的迭代次數(shù)。

在該過程中，使用距離函數(shù)來計(jì)算數(shù)據(jù)點(diǎn)與中心的距離。在歐幾里得空間中，距離函數(shù)的表達(dá)式為：

222n2

d(x,y)=√(x1?y1)+(x2?y2)+?+(xn?yn)=√∑i=1(xi?yi)............(4)

其中：

xi、yi--第i維度的x、y軸坐標(biāo)

在校園欺凌防控中，在收集到關(guān)于校園欺凌的報(bào)告或者投訴后，可以使用聚類算法將這些事件按照

其性質(zhì)、嚴(yán)重程度、涉及人員等因素分類，幫助學(xué)校和教育管理部門更有效地處理和預(yù)防欺凌事件；也

可以通過對(duì)歷史欺凌事件進(jìn)行聚類，發(fā)現(xiàn)某些特定的模式或者規(guī)律，例如某些特定情境下更容易發(fā)生欺

凌，或者某些類型的學(xué)生更容易成為欺凌的受害者，這些信息可以用于構(gòu)建風(fēng)險(xiǎn)預(yù)警模型，對(duì)可能發(fā)生

欺凌的情況進(jìn)行提前預(yù)警。

7.1.1.3PCA主成分分析

PCA是一種常用的數(shù)據(jù)降維算法，它通過計(jì)算數(shù)據(jù)的協(xié)方差矩陣并進(jìn)行特征值分析，找到可以最大

限度表示原始數(shù)據(jù)分布的主成分（方向），同時(shí)盡可能保留原始數(shù)據(jù)的結(jié)構(gòu)和信息，即通過線性變換將

高維數(shù)據(jù)映射到低維空間，使得在保留盡可能多信息的前提下，數(shù)據(jù)的維數(shù)得以降低。其方法如下：

a)將m條n維原始數(shù)據(jù)組成n行m列的矩陣；

b)將X的每一行減去對(duì)應(yīng)行的均值，即零均值化，得到矩陣X；

c)求出協(xié)方差矩陣C=XXT/m；

d)求出協(xié)方差矩陣的特征值及對(duì)應(yīng)的特征向量；

e)將特征向量按對(duì)應(yīng)特征值從大到小、自上而下排列成矩陣，取前k行組成矩陣P；

f)降維后的數(shù)據(jù)矩陣為Y=PX。

在校園欺凌防控中，對(duì)于校園監(jiān)控視頻，可以提取出每一幀圖像，使用PCA進(jìn)行降維，將圖像數(shù)據(jù)

轉(zhuǎn)換成一種更容易處理和分析的形式。在降維后的空間中，可以使用其他機(jī)器學(xué)習(xí)算法（如SVM、神經(jīng)

網(wǎng)絡(luò)等）進(jìn)行進(jìn)一步的分析，識(shí)別出可能的欺凌行為。

7.1.1.4CNN卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)是一種深度學(xué)習(xí)模型，主要用于處理和分析具有網(wǎng)格狀結(jié)構(gòu)數(shù)據(jù)，如圖像和視頻。一

般的卷積神經(jīng)網(wǎng)絡(luò)包含輸入層、卷積層、激活層、池化層和全連接層。卷積層通常用作對(duì)輸入層輸入數(shù)

據(jù)進(jìn)行特征提取，通過卷積核矩陣對(duì)原始數(shù)據(jù)中隱含關(guān)聯(lián)性的一種抽象。核心卷積操作的公式如下:

(???)(?,?)=∑??∑???(?,?)?(???,???)........................(5)

其中：

?、?--輸入圖像、卷積核

?、?--卷積核寬度和高度

(x,y)--輸出特征映射中像素點(diǎn)的坐標(biāo)

激活層對(duì)卷積層抽取的特征進(jìn)行激活，由于卷積操作是由輸入矩陣與卷積核矩陣進(jìn)行相乘的過程，

是線性變化關(guān)系，需要激活層對(duì)其進(jìn)行非線性的映射。池化層又稱為降采樣層，對(duì)感受域內(nèi)的特征進(jìn)行

篩選，提取區(qū)域內(nèi)最具代表性的特征，降低輸出特征尺度，進(jìn)而減少模型所需要的參數(shù)量。全連接層對(duì)

卷積神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)提取到的特征進(jìn)行匯總，將多維的特征輸入映射為二維的特征輸出。

神經(jīng)元是CNN的基本處理單元，一般是多輸入單輸出的單元，輸入與輸出之間的對(duì)應(yīng)關(guān)系可用下

式表示，具體形式如下：

?

yj=f(bj+∑??=1(xi×wij)?)..............................................................(6)

其中：

xi--輸入信號(hào)

wij--輸入信號(hào)xi與神經(jīng)元ｊ連接的權(quán)重值

bj--神經(jīng)元的內(nèi)部狀態(tài)即偏置值

yj--神經(jīng)元的輸出

5

T/CIXXXX—XXXX

在校園欺凌防控中，CNN可以用于校園視頻監(jiān)控分析，識(shí)別可能存在的欺凌行為，及時(shí)報(bào)警或通知

相關(guān)人員，防止欺凌事件的發(fā)生或惡化；也可以用于情感分析，通過分析學(xué)生的面部表情、語音語調(diào)、

心率血壓等生理信號(hào)，識(shí)別出可能受到欺凌或有欺凌傾向的學(xué)生，及時(shí)提供心理咨詢或干預(yù)，防止欺凌

對(duì)學(xué)生的身心健康造成損害。

7.1.1.5GCN圖卷積網(wǎng)絡(luò)

GCN中的Graph是指數(shù)學(xué)（圖論）中的用頂點(diǎn)和邊建立相應(yīng)關(guān)系的拓?fù)鋱D。圖網(wǎng)絡(luò)的核心思想就是

依據(jù)圖結(jié)構(gòu)的空間依賴關(guān)系來表征現(xiàn)實(shí)世界中真實(shí)的特征之間的相互作用關(guān)系，通過對(duì)節(jié)點(diǎn)特征進(jìn)行

聚合生成新的節(jié)點(diǎn)特征表示用于后續(xù)工作。假設(shè)有一個(gè)圖結(jié)構(gòu)，圖中有N個(gè)節(jié)點(diǎn)（node），每個(gè)節(jié)點(diǎn)都

有自己的特征，設(shè)這些節(jié)點(diǎn)的特征組成一個(gè)N×D維的矩陣X，各個(gè)節(jié)點(diǎn)之間的關(guān)系也會(huì)形成一個(gè)N×N

維的矩陣A，稱為鄰接矩陣（adjacencymatrix），X和A即為模型的輸入。GCN也是一個(gè)神經(jīng)網(wǎng)絡(luò)層，，

其計(jì)算就是不斷考慮鄰居及自身信息的一個(gè)迭代過程，每進(jìn)行一次迭代就是一次特征重組，下一層的特

征為上一層特征的圖卷積：

11

(?+1)????

?=?(??2????2??)..............................(7)

其中：

D--度矩陣，即每個(gè)節(jié)點(diǎn)的鄰居數(shù)量的對(duì)角矩陣，D=∑jAij

??--第l層的權(quán)重

??、??+1--第l層、第l+1層的節(jié)點(diǎn)特征

??=?+?,??=?+?

σ--非線性激活函數(shù)

在校園欺凌防控中，GCN可用于圖像分割、對(duì)象識(shí)別、場景理解等。將每個(gè)像素點(diǎn)視作圖中的一個(gè)

節(jié)點(diǎn)，像素之間的相鄰關(guān)系形成圖的邊，GCN可以有效地捕獲這種像素之間的關(guān)系，從而進(jìn)行更準(zhǔn)確的

圖像分割。對(duì)象識(shí)別（如姿態(tài)估計(jì)）可以被看作是圖結(jié)構(gòu)預(yù)測問題，在這種情況下，GCN可以幫助提取

對(duì)象各部分之間的結(jié)構(gòu)信息，從而提高識(shí)別的精度。在復(fù)雜場景理解任務(wù)中，物體之間的關(guān)系可以被建

模為圖結(jié)構(gòu)，如物體的相對(duì)位置、共現(xiàn)關(guān)系等，GCN可以用于捕獲并利用這些結(jié)構(gòu)信息進(jìn)行更準(zhǔn)確的場

景理解。

7.1.2語音識(shí)別技術(shù)

7.1.2.1Transformer

Transformer是一種使用自注意力機(jī)制和位置編碼的神經(jīng)網(wǎng)絡(luò)架構(gòu)，適用于自然語言處理任務(wù)。它

解決了傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型在處理序列數(shù)據(jù)時(shí)的一些限制，能夠處理長距離依賴關(guān)系并具備更好的并行

計(jì)算能力。在Transformer中，輸入序列被分別編碼成兩個(gè)向量：查詢（query）向量和鍵值對(duì)（key-

valuepairs）向量。通過計(jì)算查詢向量和鍵值對(duì)之間的注意力得分，可以為每個(gè)查詢分配與之相關(guān)的

值。另外，Transformer還引入了位置編碼，用于為輸入序列中的每個(gè)位置賦予一個(gè)相對(duì)或絕對(duì)位置信

息。位置編碼可以幫助模型理解輸入序列中不同位置的相對(duì)距離和順序。其主要公式包括：

自注意力機(jī)制：

???

?????????(?,?,?)=???????()?..........................................................(8)

√??

式中：

?--查詢向量

?--鍵向量

?–值向量

??–鍵向量的維度

自注意力機(jī)制的目的是計(jì)算輸入序列中每個(gè)位置對(duì)其他位置的注意力分?jǐn)?shù)，然后用這些分?jǐn)?shù)對(duì)輸

入序列進(jìn)行加權(quán)求和，得到注意力輸出。

在校園欺凌防控中，Transformer可以用于深度學(xué)習(xí)和自然語言處理任務(wù)，例如情緒分析，意圖識(shí)

別，以及關(guān)鍵詞提取。例如，通過分析語音內(nèi)容中的抱怨、威脅、侮辱等關(guān)鍵詞，可以偵測學(xué)生可能的

欺凌行為。同時(shí)，Transformer也可以用于理解涉及多個(gè)學(xué)生的對(duì)話，以便捕獲更復(fù)雜的欺凌行為模式。

6

T/CIXXXX—XXXX

7.1.2.2RNN循環(huán)神經(jīng)網(wǎng)絡(luò)

循環(huán)神經(jīng)網(wǎng)絡(luò)（RecurrentNeuralNetwork，RNN）是一類用于處理序列數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)。與前饋

神經(jīng)網(wǎng)絡(luò)（如全連接網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)）不同，循環(huán)神經(jīng)網(wǎng)絡(luò)在模型結(jié)構(gòu)中引入了循環(huán)，使得網(wǎng)絡(luò)能

夠處理長度可變的序列輸入，并保持對(duì)序列中過去信息的記憶。盡管循環(huán)神經(jīng)網(wǎng)絡(luò)理論上能夠處理任意

長度的序列，但在實(shí)踐中，它們常常會(huì)遇到長期依賴問題——模型難以學(xué)習(xí)到輸入序列中距離當(dāng)前時(shí)間

步較遠(yuǎn)的信息。其主要公式為：

??=σ(??????1+?????+??).............................(9)

??=?????+??..................................(10)

式中：

??–時(shí)刻t的隱藏狀態(tài)

??–時(shí)刻t的輸入

??–時(shí)刻t的輸出

?–權(quán)重矩陣

?–偏置

?–激活函數(shù)，通常為tanh或sigmoid

在校園欺凌防控中，RNN可以被應(yīng)用于多種語音分析任務(wù)，包括語音識(shí)別、語音生成和情緒分析。

例如，RNN可以用來分析學(xué)生的語音數(shù)據(jù)，捕獲他們的語氣變化、情緒狀態(tài)、語言習(xí)慣等，以識(shí)別可能

的欺凌行為。RNNs也可以用來分析學(xué)生之間的對(duì)話動(dòng)態(tài)，以識(shí)別是否存在欺凌的模式。

7.1.2.3LSTM長短期記憶網(wǎng)絡(luò)

LSTM是RNN的一種變體，它通過引入門機(jī)制解決了RNN處理長序列時(shí)的梯度消失問題。LSTM添加

了三個(gè)門（輸入門、遺忘門和輸出門）以及一個(gè)單元狀態(tài)，從而可以更好地記憶和遺忘信息。其主要公

式為：

??=σ(???[???1,??]+??)..............................(11)

??=σ(????[???1,??]+???)..............................(12)

???=????(???[???1,??]+??)............................(13)

??=??????1+??????................................(14)

??=σ(???[???1,??]+??)..............................(15)

??=???????(??).................................(16)

式中：

??–時(shí)刻t的遺忘門

??–時(shí)刻t的輸入門

??–時(shí)刻t的輸出門

??–時(shí)刻t的單元狀態(tài)

???–時(shí)刻t的候選單元狀態(tài)

??–時(shí)刻t的隱藏狀態(tài)

??–時(shí)刻t的輸入

?–權(quán)重矩陣

?–偏置

?–sigmoid激活函數(shù)

LSTM是一種特殊的RNN，它可以捕獲長期依賴關(guān)系，這對(duì)于理解和分析長時(shí)間段的語音數(shù)據(jù)非常有

用。在校園欺凌防控中，LSTM可以用于持續(xù)監(jiān)測和分析學(xué)生的語音數(shù)據(jù)。例如，通過長期跟蹤學(xué)生的

語音模式變化，能夠發(fā)現(xiàn)他們的情緒變化、語言習(xí)慣的改變等可能的欺凌跡象。相比于RNN，LSTM還可

以用于理解復(fù)雜的對(duì)話，包括多個(gè)學(xué)生之間的交互，以便捕獲更復(fù)雜的欺凌行為模式。

7.1.2.4GMM高斯混合模型

GMM是一種概率模型，它假設(shè)數(shù)據(jù)是由多個(gè)高斯分布的混合生成的。GMM可以用于聚類，異常檢測，

生成模型等任務(wù)。其主要公式為：

7

T/CIXXXX—XXXX

?

?(?)=Σπ?(?|μ,Σ).............................(17)

?=1???

式中：

K–高斯分布的數(shù)量

π?–第k個(gè)高斯分布的系數(shù)

?(?|μ,Σ)–均值為μ，協(xié)方差矩陣為Σ的高斯分布

????

?-觀測數(shù)據(jù)

在校園欺凌防控中，GMM可以用于分析學(xué)生的語音特征，識(shí)別異常和離群點(diǎn)。例如，通過對(duì)學(xué)生的

語音特征進(jìn)行聚類，可以幫助識(shí)別異常的語音模式，這可能是欺凌行為的一個(gè)跡象。此外，GMM還可以

用于異常檢測，以便在發(fā)生欺凌行為時(shí)及時(shí)引發(fā)警報(bào)。

7.1.3大模型

大模型指具有大規(guī)模參數(shù)和復(fù)雜計(jì)算結(jié)構(gòu)的機(jī)器學(xué)習(xí)模型，通常由深度神經(jīng)網(wǎng)絡(luò)構(gòu)建而成，擁有數(shù)

十億甚至數(shù)千億個(gè)參數(shù)。大模型通過訓(xùn)練海量數(shù)據(jù)來學(xué)習(xí)復(fù)雜的模式和特征，具有更強(qiáng)大的泛化能力，

可以對(duì)未見過的數(shù)據(jù)做出準(zhǔn)確的預(yù)測。因?yàn)槠涑錾谋磉_(dá)能力和預(yù)測性能，大模型在各種領(lǐng)域都有廣泛

的應(yīng)用，包括自然語言處理、計(jì)算機(jī)視覺、語音識(shí)別和推薦系統(tǒng)等，可以根據(jù)不同大模型的特點(diǎn)將其應(yīng)

用于防控校園欺凌領(lǐng)域。

例如GPT的文本模型可以用來分析學(xué)生在社交媒體、校園論壇、聊天記錄等文本數(shù)據(jù)中的言論，旨

在發(fā)現(xiàn)潛在的欺凌行為。例如，發(fā)現(xiàn)含有侮辱、歧視等不當(dāng)言論的文本，或是識(shí)別出表現(xiàn)出強(qiáng)烈負(fù)面情

緒（如憤怒、恐懼等）的文本，這些可能都是欺凌行為的跡象。

WaveNet和Tacotron的等語音大模型可以用來分析學(xué)生在語音或視頻通話中的言論。比如，可以

識(shí)別出含有惡意威脅、侮辱的語音信息。此外，一些先進(jìn)的語音模型甚至可以分析語調(diào)、語速等元信息，

幫助判斷說話者的情緒狀態(tài)，從而發(fā)現(xiàn)可能的欺凌行為。

視頻大模型，如I3D和TSN，可以用來分析監(jiān)控視頻，識(shí)別出可能的欺凌行為。這些模型可以識(shí)

別出一些欺凌的典型行為，如推搡、打擊等。此外，通過分析學(xué)生的面部表情、身體語言等，也可以幫

助發(fā)現(xiàn)潛在的欺凌行為。

在實(shí)際應(yīng)用中，多模態(tài)的融合模型可能會(huì)更有效，將文本、語音、視頻等多種類型的數(shù)據(jù)融合在一

起，提供更全面的信息，從而更準(zhǔn)確地識(shí)別欺凌行為。

BERTforMultimodalTasks(ViLBERT,VideoBERT,UNITER等)模型將BERT模型擴(kuò)展到多模態(tài)任

務(wù)上，通過在預(yù)訓(xùn)練階段引入圖像-文本匹配任務(wù)等，模型可以學(xué)習(xí)從不同模態(tài)中提取和融合信息。對(duì)

于BERT模型，微調(diào)的過程可以表示為：

P(y|x)=softmax(W?h+b).............................(18)

其中：

x--輸入的文本

y--輸出的標(biāo)簽（1表示欺凌行為，0表示非欺凌行為）

W、b--微調(diào)過程中需要學(xué)習(xí)的參數(shù)

h--經(jīng)過BERT產(chǎn)生的文本表示

softmax--激活函數(shù)

MultimodalTransformer是一種基于Transformer架構(gòu)的模型，專門用于處理包含文本和圖像的

多模態(tài)數(shù)據(jù)。它分別對(duì)文本和圖像應(yīng)用自注意力機(jī)制，然后通過互模態(tài)注意力機(jī)制將兩種模態(tài)的信息融

合在一起。

SlowFastNetworksforVideoRecognitio是一種用于視頻識(shí)別的模型，可以同時(shí)處理視頻中的

空間和時(shí)間信息，適用于處理視頻和音頻等多模態(tài)數(shù)據(jù)。

評(píng)估

7.2.1MAE平均絕對(duì)誤差

MAE是一種用于評(píng)估預(yù)測模型或者估計(jì)方法的常用指標(biāo)，它計(jì)算的是預(yù)測值與實(shí)際觀測值之間差的

絕對(duì)值的平均。其公式為：

1

???=∑?|???|................................(19)

???=1????

8

T/CIXXXX—XXXX

式中：

?–樣本數(shù)量

???–預(yù)測值

???–真實(shí)值

MAE的值越小，表示預(yù)測模型的準(zhǔn)確性越高。MAE可以用來衡量預(yù)測模型的準(zhǔn)確性，得到預(yù)測結(jié)果

和實(shí)際情況的偏差程度。

7.2.2MSE均方誤差

MSE是一種常用的評(píng)價(jià)指標(biāo)，它計(jì)算的是預(yù)測值和實(shí)際觀測值之間的差值的平方的平均。其公式

為：

1

???=∑?(???)2...............................................................(20)

???=1????

式中：

?–樣本數(shù)量

???–預(yù)測值

???–真實(shí)值

與MAE相比，MSE對(duì)異常值更敏感，因?yàn)樗糯罅祟A(yù)測誤差的影響。MSE可以用來更詳細(xì)地衡量預(yù)

測模型的準(zhǔn)確性，尤其是對(duì)模型是否能夠處理異常值的評(píng)估。

7.2.3RMSE均方根誤差

RMSE是MSE的平方根。其公式為:

1

????=√∑?(???)2..............................(21)

???=1????

式中：

?–樣本數(shù)量

???–預(yù)測值

???–真實(shí)值

與MSE相比，RMSE更能反映模型預(yù)測的平均偏差。在欺凌行為預(yù)測中，RMSE可以用來衡量預(yù)測模

型的準(zhǔn)確性，尤其是在評(píng)估模型預(yù)測的一般性能力上。

7.2.4MAPE平均絕對(duì)百分比誤差

MAPE是一種相對(duì)誤差指標(biāo)，計(jì)算的是預(yù)測值與實(shí)際值之間的絕對(duì)誤差的百分比的平均。其公式為：

1??????

????=∑??=1||?100%............................(22)

???

式中：

?–樣本數(shù)量

???–預(yù)測值

???–真實(shí)值

在欺凌行為預(yù)測中，MAPE可以更好地反映預(yù)測誤差相對(duì)于實(shí)際值的大小，展現(xiàn)預(yù)測精度的相對(duì)性

能。

7.2.5準(zhǔn)確率（Accuracy）

準(zhǔn)確率是分類問題中最常用的評(píng)估指標(biāo)，計(jì)算的是預(yù)測正確的樣本數(shù)占總樣本數(shù)的比例。其公式為：

??+??

????????=..............................(23)

??+??+??+??

式中：

??–真正例（正確預(yù)測的欺凌行為）

??–真負(fù)例（正確預(yù)測的非欺凌行為）

??–假正例（錯(cuò)誤預(yù)測的欺凌行為）

??–假負(fù)例（錯(cuò)誤預(yù)測的非欺凌行為）

在欺凌行為預(yù)測中，準(zhǔn)確率可以衡量模型在正確預(yù)測欺凌行為和非欺凌行為方面的能力。

9

T/CIXXXX—XXXX

7.2.6召回率（Recall）

召回率也稱為敏感性，它計(jì)算的是預(yù)測為正樣本（即欺凌行為）且實(shí)際為正樣本的比例占所有實(shí)際

為正樣本的比例。其公式為：

??

??????=...................................(24)

??+??

式中：

??–真正例（正確預(yù)測的欺凌行為）

??–假負(fù)例（錯(cuò)誤預(yù)測的非欺凌行為）

在欺凌行為預(yù)測中，召回率可以衡量模型在找出所有實(shí)際欺凌行為方面的能力。如果召回率高，說

明模型能夠捕捉到大部分真實(shí)的欺凌行為；反之，如果召回率低，說明模型可能會(huì)錯(cuò)過一些真實(shí)的欺凌

行為。

8應(yīng)用場景功能構(gòu)建要求

功能要求

8.1.1基于大模型的校園欺凌防控專家知識(shí)系統(tǒng)

針對(duì)校園欺凌防控處理過程中的知識(shí)檢索功能，可以利用大語言模型技術(shù)構(gòu)建校園欺凌防控專家

知識(shí)系統(tǒng)，能夠集成和解析各類文檔數(shù)據(jù)，同時(shí)可以準(zhǔn)確理解用戶的查詢問題，以及根據(jù)上下文返回精

準(zhǔn)的檢索結(jié)果。

系統(tǒng)構(gòu)建過程如下圖2所示，用于構(gòu)建專家知識(shí)系統(tǒng)的數(shù)據(jù)可以包含相關(guān)法規(guī)文件、歷史案件信

息、論文專著和學(xué)生信息等相關(guān)文檔數(shù)據(jù)，在數(shù)據(jù)類型上應(yīng)能夠支持pdf、doc、csv等不同格式文檔，

系統(tǒng)可以實(shí)現(xiàn)文檔數(shù)據(jù)的向量化編碼，以及能夠在向量數(shù)據(jù)庫中進(jìn)行存儲(chǔ)。在用戶提問過程中，可以根

據(jù)用戶的問題在向量數(shù)據(jù)庫中進(jìn)行相似答案的召回，能夠?qū)⒍鄠€(gè)召回的相似答案按照大模型的提示詞

模板進(jìn)行格式組裝。在完成格式組裝后統(tǒng)一輸入到大模型中，大模型可以根據(jù)上下文輸出一個(gè)最好的答

案，并注明該答案的文檔出處。整個(gè)專家知識(shí)系統(tǒng)應(yīng)可以支持和實(shí)現(xiàn)相關(guān)法律法規(guī)檢索、處理建議推薦、

心理輔導(dǎo)和智能多輪對(duì)話等功能。

圖2基于大模型的校園欺凌防控專家知識(shí)系統(tǒng)架構(gòu)

8.1.2行為識(shí)別

10

T/CIXXXX—XXXX

在人工智能驅(qū)動(dòng)的校園欺凌防控管理系統(tǒng)中，可以將監(jiān)控圖像、紅外圖像和傳感波形應(yīng)用于行為識(shí)

別中，以實(shí)現(xiàn)以下功能：

監(jiān)控圖像分析：利用監(jiān)控?cái)z像頭捕捉到的圖像，通過人工智能算法進(jìn)行分析，以識(shí)別和檢測異常行

為。例如，系統(tǒng)可以檢測學(xué)生之間的沖突、推搡、打架等行為，同時(shí)也可以檢測學(xué)生在校園內(nèi)長時(shí)間獨(dú)

處、聚集、逃離等異常情況。通過實(shí)時(shí)監(jiān)測和預(yù)警，系統(tǒng)可以及時(shí)發(fā)現(xiàn)潛在的霸凌行為，并采取相應(yīng)的

措施進(jìn)行干預(yù)和管理。

紅外圖像分析：利用紅外攝像頭捕捉到的圖像，通過人工智能算法進(jìn)行分析，以識(shí)別和檢測人體發(fā)

出的熱輻射。例如，系統(tǒng)可以檢測學(xué)生在校園內(nèi)長時(shí)間滯留、聚集、奔跑等行為，同時(shí)也可以檢測學(xué)生

之間的身體接觸和沖突等異常情況。通過實(shí)時(shí)監(jiān)測和預(yù)警，系統(tǒng)可以及時(shí)發(fā)現(xiàn)潛在的霸凌行為，并采取

相應(yīng)的措施進(jìn)行干預(yù)和管理。

傳感波形分析：利用傳感器捕捉到的波形信號(hào)，通過人工智能算法進(jìn)行分析，以識(shí)別和檢測異常聲

音和震動(dòng)。例如，系統(tǒng)可以檢測學(xué)生在校園內(nèi)長時(shí)間叫喊、喧嘩、撞擊等行為，同時(shí)也可以檢測學(xué)生之

間的打斗、推搡等異常情況。通過實(shí)時(shí)監(jiān)測和預(yù)警，系統(tǒng)可以及時(shí)發(fā)現(xiàn)潛在的霸凌行為，并采取相應(yīng)的

措施進(jìn)行干預(yù)和管理。

綜上所述，將監(jiān)控圖像、紅外圖像和傳感波形三項(xiàng)行為識(shí)別技術(shù)投入到實(shí)際應(yīng)用中，可以有效地提

高校園欺凌防控管理系統(tǒng)的準(zhǔn)確性和實(shí)時(shí)性，及時(shí)發(fā)現(xiàn)潛在的霸凌行為，并采取相應(yīng)的措施進(jìn)行干預(yù)和

管理。這些技術(shù)還可以提供數(shù)據(jù)記錄和分析功能。學(xué)?？梢酝ㄟ^回放監(jiān)控視頻和傳感波形數(shù)據(jù)，了解學(xué)

生在特定時(shí)間段內(nèi)的行為和活動(dòng)情況。這有助于發(fā)現(xiàn)潛在的霸凌行為模式和趨勢，為學(xué)校制定更有效的

預(yù)防和干預(yù)措施提供支持。

8.1.3場景分析

在人工智能驅(qū)動(dòng)的校園欺凌防控管理系統(tǒng)中，可以通過語音識(shí)別、語音轉(zhuǎn)文字、語意識(shí)別和情緒識(shí)

別、視頻圖像處理等技術(shù)，以實(shí)現(xiàn)在不同場景下的分析功能。具體應(yīng)用場景如下：

判斷是否發(fā)生霸凌行為：可以利用語音轉(zhuǎn)文字技術(shù)將監(jiān)控視頻中的音頻轉(zhuǎn)化為文字，以便后續(xù)的分

析和處理。通過語意識(shí)別技術(shù)，可以進(jìn)一步分析文本數(shù)據(jù)，識(shí)別出其中的關(guān)鍵詞和主題。這可以幫助學(xué)

?？焖倭私夂驼莆諏W(xué)生在該場景下進(jìn)行的對(duì)話和交流內(nèi)容，發(fā)現(xiàn)涉及霸凌行為的討論和言論，以及學(xué)生

之間的沖突和爭執(zhí)等潛在風(fēng)險(xiǎn)，為判斷是否存在霸凌行為提供重要線索。

判斷霸凌行為發(fā)生的時(shí)間：可以對(duì)視頻或圖像進(jìn)行處理，通過光線等因素判斷霸凌行為發(fā)生的時(shí)間，

利用大模型預(yù)測出霸凌行為高發(fā)的時(shí)間點(diǎn)。

判斷霸凌行為發(fā)生的場所：可以利用語音識(shí)別技術(shù)提取周圍的環(huán)境音，并結(jié)合語意識(shí)別技術(shù)分析得

到霸凌行為發(fā)生的場所，例如：周圍存在較大水流聲時(shí)可以初步判斷霸凌行為發(fā)生在廁所、浴室等場所。

還原霸凌行為的現(xiàn)場：可以通過語音識(shí)別技術(shù)或視頻圖像處理技術(shù)判斷出參與霸凌的人數(shù)及霸凌

的方式，結(jié)合語音轉(zhuǎn)文字和語意識(shí)別技術(shù)，可以通過情緒識(shí)別技術(shù)分析文本數(shù)據(jù)中的情感傾向和情緒變

化，這可以幫助學(xué)校判斷學(xué)生在收到霸凌時(shí)的情緒狀態(tài)，通過還原現(xiàn)場分析該霸凌行為的嚴(yán)重性。

綜上所述，將語音識(shí)別、語音轉(zhuǎn)文字、語意識(shí)別和情緒識(shí)別、視頻圖像處理等技術(shù)應(yīng)用于場景分析

中，可以幫助學(xué)校更快速、準(zhǔn)確地發(fā)現(xiàn)潛在的霸凌行為，分析霸凌行為發(fā)生的時(shí)間、地點(diǎn)及現(xiàn)場狀況，

及時(shí)采取相應(yīng)的措施進(jìn)行干預(yù)和管理。同時(shí)，這些技術(shù)還可以提供數(shù)據(jù)記錄和分析功能，為學(xué)校制定更

有效的預(yù)防和干預(yù)措施提供支持。

8.1.4交互預(yù)警

主動(dòng)報(bào)警：主動(dòng)報(bào)警是指當(dāng)校園欺凌防控管理系統(tǒng)檢測到霸凌事件時(shí)，能夠自動(dòng)觸發(fā)報(bào)警機(jī)制，及

時(shí)通知學(xué)校管理人員或警方進(jìn)行處理。例如，當(dāng)系統(tǒng)檢測到學(xué)生之間的打架、推搡等異常行為時(shí)，可以

自動(dòng)觸發(fā)報(bào)警機(jī)制，通過聲音、燈光等方式提醒管理人員或警方前來處理，以保障學(xué)生的安全。

自適應(yīng)預(yù)警系統(tǒng)：在校園欺凌防控管理系統(tǒng)中，可以利用數(shù)據(jù)分析模型進(jìn)行數(shù)據(jù)收集。根據(jù)歷史數(shù)

據(jù)和行為分析，自動(dòng)調(diào)整報(bào)警敏感度，避免過多的誤報(bào)，同時(shí)確保真實(shí)風(fēng)險(xiǎn)不被忽略。例如預(yù)警系統(tǒng)可

以統(tǒng)計(jì)出在過去一段時(shí)間內(nèi)發(fā)生次數(shù)最多的霸凌行為是哪一種，該行為在一段時(shí)間內(nèi)的報(bào)警敏感度將

升高，以最大化預(yù)警的效率和準(zhǔn)確度。