人工智能培訓(xùn)講義kj05云發(fā)生器算法

1、1Cloud Generators and Their Algorithms不確定性人工智能不確定性人工智能課件之五課件之五1. 表情引起的人臉結(jié)構(gòu)的變化；2. 姿態(tài)引起的圖象變化；3. 發(fā)型、胡須、眼鏡等偽裝；4. 人臉的部分遮擋、光照強(qiáng)度、角度的不同；5. 歲月和生活的影響等。進(jìn)一步理解云模型中的期望進(jìn)一步理解云模型中的期望及算法及算法云云 發(fā)發(fā) 生生 器器 及及 算算 法法5一維正態(tài)云中的期望一維正態(tài)云中的期望Ex=0, En=3, He=0.3, n=10000 期望期望Ex是最能夠反映概念的定量表示是最能夠反映概念的定量表示期望期望 期望是最能代表概念的數(shù)值。通常，期望是最能代表概念

2、的數(shù)值。通常，概念概念“25歲左右歲左右”的期望是的期望是25歲，青年歲，青年人的期望是人的期望是18歲，但如果考慮生理年齡歲，但如果考慮生理年齡和心理年齡，則概念和心理年齡，則概念“年青人年青人”的期望的期望可能是二維空間的一個(gè)點(diǎn)。可能是二維空間的一個(gè)點(diǎn)。期望是什么？期望是什么？l 高維空間的一個(gè)點(diǎn)？高維空間的一個(gè)點(diǎn)？l 一個(gè)數(shù)據(jù)集合？一個(gè)數(shù)據(jù)集合？l 一個(gè)函數(shù)？一個(gè)函數(shù)？l 一幅圖像？一幅圖像？l 一段聲音？一段聲音？l一個(gè)典型的網(wǎng)絡(luò)拓?fù)?？一個(gè)典型的網(wǎng)絡(luò)拓?fù)洌?期望可以理解為不確定期望可以理解為不確定性中的基本確定性！性中的基本確定性！期望的含義：期望的含義：人臉識(shí)別時(shí)的期望臉人臉識(shí)別時(shí)的

3、期望臉 人的視覺(jué)認(rèn)知，對(duì)同一個(gè)人不同年齡、不同人的視覺(jué)認(rèn)知，對(duì)同一個(gè)人不同年齡、不同環(huán)境的各張照片，留下了（記住了）對(duì)方的期望環(huán)境的各張照片，留下了（記住了）對(duì)方的期望臉（原型、典型），臉（原型、典型）， “三歲看老三歲看老”說(shuō)明了人的說(shuō)明了人的認(rèn)知過(guò)程對(duì)個(gè)性化人臉的提取能力。認(rèn)知過(guò)程對(duì)個(gè)性化人臉的提取能力。 不同照片僅僅是從期望臉向某些方向的變化，不同照片僅僅是從期望臉向某些方向的變化，甚至擴(kuò)張，形成一張張不確定的臉。相對(duì)于期望甚至擴(kuò)張，形成一張張不確定的臉。相對(duì)于期望臉的離散程度可以用熵和超熵度量。臉的離散程度可以用熵和超熵度量。視角不同，期望也不同視角不同，期望也不同 人還可以從一大堆人

4、的照片中，按照表人還可以從一大堆人的照片中，按照表情分成為若干類(lèi)，如高興、沮喪、驚訝、情分成為若干類(lèi)，如高興、沮喪、驚訝、氣憤、厭惡、害怕、中性等氣憤、厭惡、害怕、中性等7種類(lèi)型，抵抗種類(lèi)型，抵抗住了每一個(gè)人的特定的人臉結(jié)構(gòu)的特征。住了每一個(gè)人的特定的人臉結(jié)構(gòu)的特征。例如，笑臉也是一種抽象了的期望臉?？蠢纾δ樢彩且环N抽象了的期望臉。看問(wèn)題的角度不同，期望也不同。問(wèn)題的角度不同，期望也不同。不同期望是不同視角下的基本確定性不同期望是不同視角下的基本確定性聲音、圖像、數(shù)據(jù)集，函數(shù)，網(wǎng)絡(luò)拓?fù)涞嚷曇?、圖像、數(shù)據(jù)集，函數(shù)，網(wǎng)絡(luò)拓?fù)涞榷季哂胁淮_定性，可以從不同視角，分別都具有不確定性，可以從不同視角，

5、分別找到它們相對(duì)穩(wěn)定的形態(tài)找到它們相對(duì)穩(wěn)定的形態(tài)期望。期望。例如，從一段段的聲音中，可以找到說(shuō)話例如，從一段段的聲音中，可以找到說(shuō)話人的聲音指紋、方言特征、性別、說(shuō)話內(nèi)人的聲音指紋、方言特征、性別、說(shuō)話內(nèi)容、情緒、語(yǔ)調(diào)、語(yǔ)種等各種期望。容、情緒、語(yǔ)調(diào)、語(yǔ)種等各種期望。及其算法及其算法函數(shù)云發(fā)生器函數(shù)云發(fā)生器 C GEx =f(a0,b0,c0,)EnHedropf (ai,bi,ci，),yia0,b0,c0,為函數(shù)f中的參變量期望不再是一個(gè)數(shù)值，而是期望不再是一個(gè)數(shù)值，而是函數(shù)中參變量的集合函數(shù)中參變量的集合i=1,2,N函數(shù)云發(fā)生器算法函數(shù)云發(fā)生器算法輸入：輸入：函數(shù)表達(dá)式的基本形態(tài)函數(shù)表

6、達(dá)式的基本形態(tài)f(x),f(x),以及函數(shù)的參數(shù)的期望以及函數(shù)的參數(shù)的期望(a(a0 0,b,b0 0,c,c0 0,.) ,.) ，熵，熵EnEn，超熵，超熵HeHe輸出：輸出：函數(shù)群，每個(gè)函數(shù)為一個(gè)云滴函數(shù)群，每個(gè)函數(shù)為一個(gè)云滴算法描述：算法描述：Step1:Step1: 以以EnEn為期望，為期望，HeHe為方差，生成正態(tài)隨機(jī)數(shù)為方差，生成正態(tài)隨機(jī)數(shù)EnEni i; ;Step2:Step2:分別以分別以a a0 0,b,b0 0,c,c0 0,.,.為中心值，為中心值，EnEni i22為方差，生成正為方差，生成正態(tài)隨機(jī)參數(shù)態(tài)隨機(jī)參數(shù)a ai i,b,bi i,c,ci i,.;,.;

7、Step3:Step3:計(jì)算計(jì)算Step4:Step4:以以a ai i、b bi i、c ci i.為參數(shù)，生成函數(shù)為參數(shù)，生成函數(shù)f(x;af(x;ai i,b,bi i,c,ci i, ,.) )，稱(chēng)為云滴，稱(chēng)為云滴，i i為其確定度為其確定度Step5:Step5:重復(fù)步驟重復(fù)步驟1414，直至要求數(shù)目的函數(shù)全部產(chǎn)生，直至要求數(shù)目的函數(shù)全部產(chǎn)生22()2()ioiaaEnie函數(shù)云發(fā)生器示例函數(shù)云發(fā)生器示例三三 角角 形形 云云 以三角形的三個(gè)邊長(zhǎng)以三角形的三個(gè)邊長(zhǎng)a,b,ca,b,c為期望數(shù)據(jù)集為期望數(shù)據(jù)集 生成一組組云滴生成一組組云滴a,bca,bc構(gòu)成一個(gè)構(gòu)成一個(gè)個(gè)三角形個(gè)三角形

8、直直 線線 云云 以直線的斜率和截距以直線的斜率和截距k,bk,b為期望數(shù)據(jù)集為期望數(shù)據(jù)集 生成一組組斜率和截距生成一組組斜率和截距a,ba,b構(gòu)成一根根直構(gòu)成一根根直線線函數(shù)云發(fā)生器示例函數(shù)云發(fā)生器示例正正 弦弦 云云 以振幅、相位和頻率以振幅、相位和頻率AA，, , 為期望數(shù)據(jù)集為期望數(shù)據(jù)集 生成一組組云滴生成一組組云滴AA，, 構(gòu)成一個(gè)個(gè)正弦曲線構(gòu)成一個(gè)個(gè)正弦曲線園園 云云 以園心位置和半徑以園心位置和半徑a,b,ra,b,r為期望數(shù)據(jù)集為期望數(shù)據(jù)集 生成一組組云滴生成一組組云滴a,bra,br構(gòu)成一個(gè)構(gòu)成一個(gè)個(gè)園個(gè)園正弦函數(shù)云發(fā)生器算法二正弦函數(shù)云發(fā)生器算法二MiiixCy0正弦函數(shù)云

9、發(fā)生器算法正弦函數(shù)云發(fā)生器算法2MjejjijEnCC, 2 , 1,22)(2)(MjjijixCy1函數(shù)云的另一種表現(xiàn)形式函數(shù)云的另一種表現(xiàn)形式直線云直線云圓圓 云云逆向函數(shù)云發(fā)生器逆向函數(shù)云發(fā)生器 C G -1 (a0,b0,c0)EnHedrop f(ai,bi,ci),yia,b,c為函數(shù)f的參數(shù)集合i=1,2,N1 1、冪律分布、冪律分布2 2、分形、分形3 3、運(yùn)用分形方法產(chǎn)生度分布服從冪律、運(yùn)用分形方法產(chǎn)生度分布服從冪律分布的復(fù)雜網(wǎng)絡(luò)；分布的復(fù)雜網(wǎng)絡(luò)；冪律分布冪律分布 冪律冪律 P(x) = x的性質(zhì)：的性質(zhì)： P(kx) / P(x) = k 冪律無(wú)特征尺度，也稱(chēng)無(wú)尺度或無(wú)標(biāo)

10、度。冪律無(wú)特征尺度，也稱(chēng)無(wú)尺度或無(wú)標(biāo)度。分形（分形（Fractal）l 從幾何學(xué)上看，分形是實(shí)空間或復(fù)空間上一些復(fù)雜的點(diǎn)從幾何學(xué)上看，分形是實(shí)空間或復(fù)空間上一些復(fù)雜的點(diǎn)的集合，它們構(gòu)成一個(gè)緊子集，并且具有下面經(jīng)典的幾的集合，它們構(gòu)成一個(gè)緊子集，并且具有下面經(jīng)典的幾何性質(zhì)：何性質(zhì)：1、分形集都具有任意小尺度下的比例細(xì)節(jié)，即具有無(wú)限精細(xì)結(jié)構(gòu)；、分形集都具有任意小尺度下的比例細(xì)節(jié)，即具有無(wú)限精細(xì)結(jié)構(gòu)；2、分形集無(wú)法用傳統(tǒng)幾何語(yǔ)言來(lái)描述，它不是某些簡(jiǎn)單方程的解集、分形集無(wú)法用傳統(tǒng)幾何語(yǔ)言來(lái)描述，它不是某些簡(jiǎn)單方程的解集，也不是滿足某些條件的點(diǎn)的軌跡；，也不是滿足某些條件的點(diǎn)的軌跡； 3、分形集具有某種

11、自相似形式，包括近似和統(tǒng)計(jì)上的自相似；、分形集具有某種自相似形式，包括近似和統(tǒng)計(jì)上的自相似；4、分形集一般可以用簡(jiǎn)單的方法定義和產(chǎn)生，如迭代；、分形集一般可以用簡(jiǎn)單的方法定義和產(chǎn)生，如迭代；5、按某種維數(shù)定義，分形集的分形維數(shù)大于相應(yīng)的拓?fù)渚S數(shù)。、按某種維數(shù)定義，分形集的分形維數(shù)大于相應(yīng)的拓?fù)渚S數(shù)。分形的例子分形的例子Koch雪花生長(zhǎng)步驟：生長(zhǎng)步驟：1.1. 把圖把圖(A)(A)做做3 3個(gè)拷貝，所有新節(jié)點(diǎn)都連到舊節(jié)點(diǎn)，新節(jié)點(diǎn)之間也互相連接，個(gè)拷貝，所有新節(jié)點(diǎn)都連到舊節(jié)點(diǎn)，新節(jié)點(diǎn)之間也互相連接，得到得到(B)(B)。2.2.把把(B)(B)做做3 3個(gè)拷貝，個(gè)拷貝，所有所有新結(jié)構(gòu)的節(jié)點(diǎn)都連到舊

12、結(jié)構(gòu)的中心點(diǎn)，每個(gè)新結(jié)構(gòu)新結(jié)構(gòu)的節(jié)點(diǎn)都連到舊結(jié)構(gòu)的中心點(diǎn)，每個(gè)新結(jié)構(gòu)的中心點(diǎn)互相連接，得到的中心點(diǎn)互相連接，得到(C)(C)。3.3. (A) (B) (C)用分形方法產(chǎn)生連接度服從冪律分布的復(fù)雜網(wǎng)絡(luò)用分形方法產(chǎn)生連接度服從冪律分布的復(fù)雜網(wǎng)絡(luò)基于分形云的網(wǎng)絡(luò)拓?fù)溲莼惴ㄝ斎耄狠斎耄浩谕負(fù)淦谕負(fù)銭x0，熵，熵En，超熵，超熵He，一次迭代過(guò)程產(chǎn)生的云滴數(shù)，一次迭代過(guò)程產(chǎn)生的云滴數(shù)M，迭代，迭代深度深度N；輸出：輸出：生成的網(wǎng)絡(luò)拓?fù)渖傻木W(wǎng)絡(luò)拓?fù)銰N；算法步驟：算法步驟：1. 以以En為期望為期望,He2為方差生成正態(tài)隨機(jī)數(shù)為方差生成正態(tài)隨機(jī)數(shù)En=NORM (En, He2)；2. 對(duì)對(duì)Ex

13、0中的每條邊，以中的每條邊，以1-En的概率保留，生成新的網(wǎng)絡(luò)拓?fù)洌坏母怕时Ａ?，生成新的網(wǎng)絡(luò)拓?fù)洌?. 重復(fù)步驟重復(fù)步驟2，M-1次；次；4. 把所有新拓?fù)涞姆侵行墓?jié)點(diǎn)連到把所有新拓?fù)涞姆侵行墓?jié)點(diǎn)連到Ex0的中心節(jié)點(diǎn)，所有新拓?fù)涞闹行墓?jié)點(diǎn)的中心節(jié)點(diǎn)，所有新拓?fù)涞闹行墓?jié)點(diǎn)互相連接，得到網(wǎng)絡(luò)拓?fù)浠ハ噙B接，得到網(wǎng)絡(luò)拓?fù)銰1；5. 將將G1作為新的期望拓?fù)渥鳛樾碌钠谕負(fù)銭x1，重復(fù)步驟，重復(fù)步驟14，N-1次，生成網(wǎng)絡(luò)拓?fù)浯?，生成網(wǎng)絡(luò)拓?fù)銰N以種子（期望拓?fù)洌┳鳛槌跏紶顟B(tài)，用熵和超熵來(lái)控制網(wǎng)絡(luò)拓以種子（期望拓?fù)洌┳鳛槌跏紶顟B(tài)，用熵和超熵來(lái)控制網(wǎng)絡(luò)拓?fù)浞中芜^(guò)程中的參數(shù)，通過(guò)偏好依附增長(zhǎng)得到不確定性分形

14、演撲分形過(guò)程中的參數(shù)，通過(guò)偏好依附增長(zhǎng)得到不確定性分形演化拓?fù)?。化拓?fù)?。試?yàn) 1l期望拓?fù)淦谕負(fù)銭x=l熵：熵：En=1/6l超熵：超熵： He=0.01l一次迭代產(chǎn)生的云滴個(gè)數(shù)：一次迭代產(chǎn)生的云滴個(gè)數(shù)：M=3l迭代深度：迭代深度：N=3節(jié)點(diǎn)的度分布（分形算法迭代3次后的結(jié)果）試驗(yàn) 2l期望拓?fù)洌浩谕負(fù)洌?En=l熵：熵： En=1/3l超熵：超熵： He=0.01l復(fù)制次數(shù)：復(fù)制次數(shù)： M=3l迭代次數(shù)：迭代次數(shù)：N=3 節(jié)點(diǎn)的度分布（分形算法迭代3次后的結(jié)果）節(jié)點(diǎn)的度分布（分形算法迭代5次，生成4096個(gè)節(jié)點(diǎn)）42 冪律分布冪律分布反映了自然界和社會(huì)現(xiàn)象中的自相似或無(wú)尺度特性，冪律分布

15、呈如圖所示的“長(zhǎng)尾”分布，有人也稱(chēng)為“重尾”分布，這種分布的共性是絕大多數(shù)事件的規(guī)模很小，只有少數(shù)事件的規(guī)模很大。 冪律分布冪律分布43冪律云冪律云分形樹(shù)生成算法分形樹(shù)生成算法 Global , , sl, sr/定義控制分形的全局參數(shù)，定義控制分形的全局參數(shù)，, , sl, sr分別為左偏角分別為左偏角, 右偏角右偏角, 左伸縮率左伸縮率,右伸縮率右伸縮率Fractal_Tree (x, y, length, init_angle, M)if M = 0 return;/計(jì)算樹(shù)枝的終點(diǎn)坐標(biāo)計(jì)算樹(shù)枝的終點(diǎn)坐標(biāo)(x, y) = compute_new_xy(x, y, init_angle, l

16、ength);/畫(huà)樹(shù)枝畫(huà)樹(shù)枝line(x, y, x, y);/遞歸調(diào)用分形數(shù)函數(shù)，生成左子樹(shù)遞歸調(diào)用分形數(shù)函數(shù)，生成左子樹(shù)Fractal_Tree (x, y, length*sl, init_angle - , M-1);/遞歸調(diào)用分形數(shù)函數(shù)，生成右子樹(shù)遞歸調(diào)用分形數(shù)函數(shù)，生成右子樹(shù)Fractal_Tree (x, y, length*sr, init_angle+ , M-1);調(diào)用語(yǔ)句：調(diào)用語(yǔ)句： Fractal_Tree (0, 0, L, 90, M)算法結(jié)束后得到由算法結(jié)束后得到由2 2(M+1)(M+1)1 1條線段構(gòu)成一個(gè)確定分形樹(shù)。條線段構(gòu)成一個(gè)確定分形樹(shù)。 云分形樹(shù)在分形

17、樹(shù)構(gòu)造中引入云模型 引入云模型描述分形樹(shù)算法中的參數(shù)引入云模型描述分形樹(shù)算法中的參數(shù)集，利用熵和超熵控制參數(shù)集的變異，以集，利用熵和超熵控制參數(shù)集的變異，以反映分形樹(shù)構(gòu)造中的不確定性，得到不同反映分形樹(shù)構(gòu)造中的不確定性，得到不同形狀的云分形樹(shù)。形狀的云分形樹(shù)。云分形樹(shù)算法云分形樹(shù)算法 Global , , sl, sr/定義控制分形的全局參數(shù)，定義控制分形的全局參數(shù)，, , sl, sr分別為左偏角分別為左偏角, 右偏角右偏角, 左伸縮率左伸縮率,有伸縮率有伸縮率Fractal_Tree (x, y, length, init_angle, M)if M = 0 return;/計(jì)算樹(shù)枝的終點(diǎn)

18、坐標(biāo)計(jì)算樹(shù)枝的終點(diǎn)坐標(biāo)(x, y) = compute_new_xy(x, y, init_angle, length);/畫(huà)樹(shù)枝畫(huà)樹(shù)枝line(x, y, x, y);/利用云模型計(jì)算分形控制參數(shù)利用云模型計(jì)算分形控制參數(shù) = cloud(, En, He); = cloud(, En, He);sl = cloud(sl, En, He);sr = cloud(sr, En, He);/遞歸調(diào)用分形數(shù)函數(shù)，生成左子樹(shù)遞歸調(diào)用分形數(shù)函數(shù)，生成左子樹(shù)Fractal_Tree (x, y, length*sl, init_angle , M-1);/遞歸調(diào)用分形數(shù)函數(shù)，生成右子樹(shù)遞歸調(diào)用分形數(shù)函

19、數(shù)，生成右子樹(shù)Fractal_Tree (x, y, length*sr, init_angle+ , M-1);調(diào)用語(yǔ)句：調(diào)用語(yǔ)句： Fractal_Tree (0, 0, L, 90, M)算法結(jié)束后得到由算法結(jié)束后得到由2 2(M+1)(M+1)1 1條線段構(gòu)成一個(gè)不確定分形樹(shù)。條線段構(gòu)成一個(gè)不確定分形樹(shù)。 使用不同的參數(shù)集合生成的分形樹(shù)Ex= = = 400，LB = RB = 0.7 En=0.05,0.05,0.1,0.1He=0.001,0.001,0.01,0.01M=5Ex= = =400,LB=RB=0.7, En=0.05,0.05,0.1,0.1,He=0.001,0.

20、001, 0.01, 0.01 , M=5使用不同的參數(shù)集合生成的分形樹(shù)從上面的例子可以看出，運(yùn)用云模型來(lái)控制分形過(guò)從上面的例子可以看出，運(yùn)用云模型來(lái)控制分形過(guò)程中的不確定性，可以生成形態(tài)各異的分形樹(shù)和分形拓程中的不確定性，可以生成形態(tài)各異的分形樹(shù)和分形拓?fù)洹?。?duì)于分形拓?fù)洌涠确植冀咏鼉缏煞植?。?duì)于分形拓?fù)?，其度分布接近冪律分布。?duì)于分形樹(shù)，其樹(shù)枝長(zhǎng)度的分布也接近冪律分布。對(duì)于分形樹(shù)，其樹(shù)枝長(zhǎng)度的分布也接近冪律分布。及算法及算法 云的概念可以擴(kuò)展到高維空間。云的概念可以擴(kuò)展到高維空間。 當(dāng)一個(gè)概念需要用當(dāng)一個(gè)概念需要用N N個(gè)屬性描述時(shí)，則可以在個(gè)屬性描述時(shí)，則可以在N N維維空間里找到它

21、的一個(gè)個(gè)點(diǎn)（云滴），在空間里找到它的一個(gè)個(gè)點(diǎn)（云滴），在N+1N+1維空間里維空間里形成超曲面，反映云滴對(duì)概念的確定度。形成超曲面，反映云滴對(duì)概念的確定度。 在日常生活中，會(huì)遇到很多具有單側(cè)不確定性的概念。比在日常生活中，會(huì)遇到很多具有單側(cè)不確定性的概念。比如概念如概念“好學(xué)生好學(xué)生”，通常認(rèn)為成績(jī)?yōu)椋ǔＵJ(rèn)為成績(jī)?yōu)?00100分的學(xué)生屬于該概念分的學(xué)生屬于該概念的確定度為的確定度為1 1。這類(lèi)概念通常要用半正態(tài)云描述。這類(lèi)概念通常要用半正態(tài)云描述。 此外，還有些概念是不具有對(duì)稱(chēng)性的。比如概念此外，還有些概念是不具有對(duì)稱(chēng)性的。比如概念“青年青年人人”，通常認(rèn)為：年齡在，通常認(rèn)為：年齡在2020

22、歲到歲到2525歲之間的人完全屬于該概念，歲之間的人完全屬于該概念，而小于而小于1313歲或大于歲或大于4040歲的人不屬于該概念。顯然，要描述這樣歲的人不屬于該概念。顯然，要描述這樣的概念就必須要使用兩個(gè)未必對(duì)稱(chēng)的半正態(tài)云構(gòu)成的組合云。的概念就必須要使用兩個(gè)未必對(duì)稱(chēng)的半正態(tài)云構(gòu)成的組合云。半正態(tài)云半正態(tài)云l 半云模型通常表示具有單側(cè)不確定性的定性概念。用半正半云模型通常表示具有單側(cè)不確定性的定性概念。用半正態(tài)云來(lái)描述的概念態(tài)云來(lái)描述的概念“優(yōu)秀學(xué)生優(yōu)秀學(xué)生”：確定度成績(jī)橫軸表示學(xué)生的成績(jī)，縱軸表示學(xué)生屬于該概念的確定度半云生成算法半云生成算法Step1: 生成以生成以En為期望值，為期望值， He2為方差的一個(gè)正態(tài)隨機(jī)數(shù)為方差的一個(gè)正態(tài)隨機(jī)數(shù)2,HeEnNORMEn iStep2: 生成以生成以Ex為期望值，為期望值，Eni2為方差的一個(gè)正態(tài)隨機(jī)數(shù)為方差的一個(gè)正態(tài)隨機(jī)數(shù)2,iiEnExNORMxStep4: 計(jì)算計(jì)算xi的確定度的確定度 2 1212)(iiiEnExxeStep3: 判斷判斷xi是否大于是否大于Ex, 若是，則轉(zhuǎn)若是，則轉(zhuǎn)Step2下面以左半云為例，說(shuō)明半云的生成算法：下面以左半云為例，說(shuō)明半云的生成算法：Step5: 重復(fù)重復(fù)Step1到到Step4，直至產(chǎn)生要求