模糊集合的模糊程度——模糊熵

1、四、模糊集合的模糊程度四、模糊集合的模糊程度模糊熵模糊熵四、模糊集合的模糊程度四、模糊集合的模糊程度模糊熵模糊熵 a a的模糊熵的模糊熵e(a)e(a)，在單位超立方體，在單位超立方體i in n中從中從0 0到到1 1，其中頂點的熵為，其中頂點的熵為0 0， 表明不模糊，中點的熵為表明不模糊，中點的熵為1 1，是最大熵。從頂點到中點，熵逐漸，是最大熵。從頂點到中點，熵逐漸 增大。簡單地從幾何圖形上來考慮可以得到熵的比例形式：增大。簡單地從幾何圖形上來考慮可以得到熵的比例形式： 1 1 ( ,) ( ) ( ,) near far ala a e a bla a 1 311723177 ( ,

2、 ),(0,1),(1,0),( ) 3 43412341217 nearfar aaaabe a 熵是一個一般性的概念，它度量了一個系統(tǒng)或熵是一個一般性的概念，它度量了一個系統(tǒng)或 一段信息的不確定性。一段信息的不確定性。 模糊熵描述了一個模糊集的模糊性程度。模糊熵描述了一個模糊集的模糊性程度。 一般的定義一般的定義1 1： ： （1 1）分明集是不模糊的，則分明集的模糊熵為）分明集是不模糊的，則分明集的模糊熵為0 0； （2 2）1/21/2是隸屬性最難確認的模糊集，是隸屬性最難確認的模糊集，1/21/2的模糊的模糊 性應(yīng)最大性應(yīng)最大 （3 3）模糊集）模糊集a a與與 距距1/21/2的的

3、1 1遠近程度是相同的，則遠近程度是相同的，則 要求要求a a與與 的模糊程度一樣的模糊程度一樣 （4 4）模糊集）模糊集a a的模糊性應(yīng)具有單調(diào)變化的性質(zhì)，即的模糊性應(yīng)具有單調(diào)變化的性質(zhì)，即a a越越 接近接近1/2,a1/2,a的模糊性越大；的模糊性越大； a a越遠離越遠離1/2,a1/2,a的模糊的模糊 性越小性越小 。 c a c a 四、模糊集合的模糊程度四、模糊集合的模糊程度模糊熵模糊熵 模糊熵定理：模糊熵定理： () ( ) () c c m aa e a m aa 模糊熵定理的幾何圖示。由對稱性，完整模糊方形的四個點到各模糊熵定理的幾何圖示。由對稱性，完整模糊方形的四個點到各

4、 自的最近頂點、最遠頂點的距離都相等。該定理正式宣告了自的最近頂點、最遠頂點的距離都相等。該定理正式宣告了“西西 方邏輯方邏輯”的終止。的終止。 （ ） ()0,(),( )0 cc m aam aane a 四、模糊集合的模糊程度四、模糊集合的模糊程度模糊熵模糊熵 n i iiii xaxaxaxakae 1 )(1ln()(1 ()(ln)()( k0k0是常數(shù)是常數(shù) 很多文章是用這個定義來求模糊熵很多文章是用這個定義來求模糊熵 另外的一種定義另外的一種定義（類似于信息論中熵的定義）（類似于信息論中熵的定義） 四、模糊集合的模糊程度四、模糊集合的模糊程度模糊熵模糊熵 五、模糊集合間的包含關(guān)

5、系五、模糊集合間的包含關(guān)系包含度定理包含度定理 主導(dǎo)隸屬度函數(shù)關(guān)系主導(dǎo)隸屬度函數(shù)關(guān)系( (dominated membership dominated membership function relationship)function relationship)： ( )( ) ab abif and only ifmxmxfor all x 如果如果a=(.3 0 .7)a=(.3 0 .7)和和b=(.4 .7 .9)b=(.4 .7 .9)，那么，那么a a 就是就是b b的一個模糊子集，但的一個模糊子集，但b b不是不是a a的模糊子集。的模糊子集。 顯然，這種模糊包含度是非模糊的，它

6、是非黑即顯然，這種模糊包含度是非模糊的，它是非黑即 白的白的, ,是是二值定義下的子集性二值定義下的子集性( (zadehzadehs1965)s1965)。 1.1.模糊子集的幾何表示模糊子集的幾何表示 b b的所有模糊子集構(gòu)成集合的所有模糊子集構(gòu)成集合模糊冪集模糊冪集f(2f(2b b) )，它構(gòu)成了，它構(gòu)成了 在單位超立方體中倚著原點的規(guī)則的超長方形，其邊寬等于各在單位超立方體中倚著原點的規(guī)則的超長方形，其邊寬等于各 隸屬度值隸屬度值m mb b(x(xi i) ) 。可以用。可以用lebesguelebesgue測度或體積測度或體積v(b)v(b)來度量來度量f(2f(2b b) )

7、的大小，其中，體積的大小，其中，體積v(b)v(b)為隸屬度值的乘積：為隸屬度值的乘積： 1 ( )() n bi i v bmx 五、模糊集合間的包含關(guān)系五、模糊集合間的包含關(guān)系包含度定理包含度定理 圖圖7.77.7 2.2.包含度定理：包含度定理： 在圖在圖7.77.7中，點中，點a a可以是長方形內(nèi)的點，也可以不是。在長可以是長方形內(nèi)的點，也可以不是。在長 方形方形f(2f(2b b) )外不同的點外不同的點a a是是b b的不同程度的子集。而上述二值定的不同程度的子集。而上述二值定 義下的子集性忽略了這一點?？紤]到集合義下的子集性忽略了這一點?？紤]到集合a a屬于屬于f(2f(2b b

8、) )的不同程的不同程 度，通過抽象隸屬度函數(shù)來定義包含度：度，通過抽象隸屬度函數(shù)來定義包含度： s(.,.)s(.,.)在在0,10,1之間取值，其代表了多值的子集測度（包之間取值，其代表了多值的子集測度（包 含度），是模糊理論中的基本的、標準的結(jié)構(gòu)。含度），是模糊理論中的基本的、標準的結(jié)構(gòu)。 (2 ) ( , )() ( ) b f s a bdegree ab ma 五、模糊集合間的包含關(guān)系五、模糊集合間的包含關(guān)系包含度定理包含度定理 度量度量s(.,.)s(.,.)的兩種方法：的兩種方法： (1)(1)代數(shù)方法代數(shù)方法: : 即失配法即失配法(fit-violation strateg

9、y) (fit-violation strategy) 假定假定x x包含有包含有100100個元素：個元素：x=xx=x1 1, ,x,x100 100 。而只有第一個 。而只有第一個 元素違背了主導(dǎo)隸屬度函數(shù)關(guān)系，使得元素違背了主導(dǎo)隸屬度函數(shù)關(guān)系，使得m ma a(x(x1 1)m)mb b(x(x1 1) )。直觀。直觀 上，我們認為上，我們認為a a很大程度上是很大程度上是b b的子集。可以估算，子集性為的子集?？梢怨浪悖蛹詾?s(a,b)=0.99s(a,b)=0.99，并且，如果，并且，如果x x包括包括1 1兆個元素，兆個元素，a a幾乎完全是幾乎完全是b b的的 子集了?？?/p>

10、見失配的幅度子集了?？梢娛涞姆萴 ma a(x(x1 1)-m)-mb b(x(x1 1) )越大，失配的數(shù)目相越大，失配的數(shù)目相 對于模糊集對于模糊集a a的大小越多，那么的大小越多，那么a a就越不能算是就越不能算是b b的子集，或者的子集，或者 說，說，a a就越象是就越象是b b的超集。直觀上有：的超集。直觀上有： ( , )1( , )supersethood a bs a b 五、模糊集合間的包含關(guān)系五、模糊集合間的包含關(guān)系包含度定理包含度定理 失配數(shù)的計算：失配數(shù)的計算： max(0,mmax(0,ma a(x)-m(x)-mb b(x)(x) 歸一化之后得到超集的最小度量：

11、歸一化之后得到超集的最小度量： max(0,( )( ) ( , ) ( ) ab x mxmx supersethood a b m a max(0,( )( ) ( , )1 ( ) ab x mxmx s a b m a 包含度為：包含度為： 五、模糊集合間的包含關(guān)系五、模糊集合間的包含關(guān)系包含度定理包含度定理 這種包含度滿足主導(dǎo)隸屬度函數(shù)關(guān)系，當這種包含度滿足主導(dǎo)隸屬度函數(shù)關(guān)系，當 時，時，s(a,b)=1。如果。如果s(a,b)=1，則分子被加數(shù)應(yīng)都為，則分子被加數(shù)應(yīng)都為0 0，因此主導(dǎo)，因此主導(dǎo) 隸屬度函數(shù)關(guān)系都滿足。反之，當且僅當隸屬度函數(shù)關(guān)系都滿足。反之，當且僅當b b是空集時

12、，是空集時， s(a,b)=0s(a,b)=0。 而空集本來就無法包含集合，無論是模糊集還是非模糊集。在這而空集本來就無法包含集合，無論是模糊集還是非模糊集。在這 兩種極端情況之間，包含度的大小為：兩種極端情況之間，包含度的大小為： 0 s ( a, b ) m(a)m(a2 2) )。 可見，包含度依賴于基數(shù)可見，包含度依賴于基數(shù)m(a)m(a)?？紤]歸一化，進一步猜測?？紤]歸一化，進一步猜測： * ( ,) ( ,)1 ( ) d a b s a b m a 定義超集度為定義超集度為： d(a,f(2b)=d(a,b*) 為了保證其值在為了保證其值在(0,1)之間變化之間變化, ,要要 進

13、行歸一化處理，該常數(shù)等于最大進行歸一化處理，該常數(shù)等于最大 的單位立方體距離，的單位立方體距離，l l1 1情況下值為情況下值為n: : s(a,b)=1-d(a,b*)/n 這種度量存在的問題：這種度量存在的問題： 五、模糊集合間的包含關(guān)系五、模糊集合間的包含關(guān)系包含度定理包含度定理 （圖7.9） max(0,( )( ) ( ,)1 ( ) ab x mxmx s a b m a 假定假定p=1p=1，令，令 正交性表明：正交性表明： 設(shè)設(shè) 其充要條件是沒有失其充要條件是沒有失 配現(xiàn)象發(fā)生，恒有配現(xiàn)象發(fā)生，恒有 。 所以所以 * ii ba (),() iaiibi amxbmx * ii

14、 ba ii ab * max(0,)0 iiii abab 設(shè)設(shè) 其充要條件是有失配現(xiàn)其充要條件是有失配現(xiàn) 象象 發(fā)生，這時，發(fā)生，這時， * ii ba ii ab * ii bb * max(0,) iiiiii ababab 綜上：綜上： * max(0,) iiii abab * 1 ( ,)max(0,()() n aibi i d a bmxmx 五、模糊集合間的包含關(guān)系五、模糊集合間的包含關(guān)系包含度定理包含度定理 * 1 ( ,)max(0,()() n aibi i d a bmxmx 這種證明方法同樣給出了優(yōu)化子集這種證明方法同樣給出了優(yōu)化子集b b* *的一個更重要的一個

15、更重要 的性質(zhì)：的性質(zhì)： 因為如果有一個失配關(guān)系，那么因為如果有一個失配關(guān)系，那么 ， 所以所以 ，其余的，其余的 ，所以，所以 故故 。 * bab ii ab * ii bb * min( ,) iii a bb * ii ab * min( ,) iii a bb * bab b b* *是具有雙重優(yōu)化特性的點，它既是離是具有雙重優(yōu)化特性的點，它既是離a a最近的最近的b b 的的 子集，也是離子集，也是離b b最近的最近的a a的子集的子集a a* *: : * ( ,(2 )( ,)( ,) a d b fd b ad b b * ( ,)( )()d a bm am ab 五、模糊

16、集合間的包含關(guān)系五、模糊集合間的包含關(guān)系包含度定理包含度定理 * 1 * max(0,( )( ) ( , )1 () ( ) ( , ) ( ) ( ,)max(0,()() ( ) ( , ) ( , ) ( ) ( ,)( )() ab x n aibi i mxmx s a b m ab m a s a b m a d a bmxmx m b s b a s a b m a d a bm am ab 包含度定理：包含度定理： () (, ) () ( ) () a m ax s x a m x m a m x n n 推導(dǎo)相對頻率：推導(dǎo)相對頻率： 五、模糊集合間的包含關(guān)系五、模糊集合間

17、的包含關(guān)系包含度定理包含度定理 1),(0ahs ahifahs1),( ),(),(),(),( 212121 aahsahsahsaahs ),(),(),( 21121 ahasahsaahs )/(hap 五、模糊集合間的包含關(guān)系五、模糊集合間的包含關(guān)系包含度定理包含度定理 包含度定理的一些推論包含度定理的一些推論 結(jié)論: fuzzy theory extends probability theory 如何用模糊集合間的關(guān)系表征某個模糊集合的如何用模糊集合間的關(guān)系表征某個模糊集合的 模糊程度模糊程度 包含度是模糊中最基本的有代表性的一個數(shù)值包含度是模糊中最基本的有代表性的一個數(shù)值 熵熵

18、- -包含度定理：包含度定理： ( )(,) cc e as aa aa ()()() (,)( ) ()() ccc cc cc maaaam aa s aa aae a m aam aa 說明：說明： 將包含度定理中的將包含度定理中的a a、b b分別用分別用 和和 代替，并注意到交集代替，并注意到交集 是并集是并集 的子集，即可的子集，即可 證得。證得。 c aa c aa c aa c aa 該定理表明了整體是其部分的一部分的程度。該定理表明了整體是其部分的一部分的程度。 六、熵六、熵-包含度定理包含度定理 圖示二維的熵圖示二維的熵- -包含度定理。交集包含度定理。交集 是并集是并集

19、的子集。可的子集。可 見長對角線的長度相等，所以并集見長對角線的長度相等，所以并集 到交集到交集 的模糊冪集所構(gòu)的模糊冪集所構(gòu) 成的超長方形的最優(yōu)距離成的超長方形的最優(yōu)距離d d* *滿足：滿足： c aa c aa c aa c aa * ( ,)(,)()() ccccc d a ad aa aadm aam aa * ()() (,)11 ()() () ( ) () cc cc cc c c dm aam aa s aa aa m aam aa m aa e a m aa 六、熵六、熵-包含度定理包含度定理 另外，利用式另外，利用式7-367-36也可得到該公也可得到該公 式。式。 *

20、 ( ,) ( ,)1 ( ) d a b s a b m a （7-367-36） 1 模糊熵應(yīng)用于圖象邊緣檢測 重慶郵電學(xué)院學(xué)報 1996 04 2 唐山地震前地震活動模糊熵值的異常特征 華北地震科學(xué) 1997 03 3 基于模糊熵與方向相似度的液體火箭發(fā)動機故障檢測 國防科技大學(xué)學(xué)報 1998 04 4 一種新的模糊熵圖象分割方法 信號處理 1998 03 5 用隨機模糊熵權(quán)方法編制礦井生產(chǎn)計劃 遼寧工程技術(shù)大學(xué)學(xué)報(自然科學(xué)版) 1999 01 6 基于廣義模糊熵的故障特征參數(shù)選擇 控制與決策 1999 06 7 基于廣義模糊熵的液體火箭發(fā)動機故障檢測研究 宇航學(xué)報 1999 01 8 一種基于模糊熵和遺傳算法的圖像分割方法 上海大學(xué)學(xué)報(自然科學(xué)版) 1999 06 9 一種基于最大模糊熵的高斯聚類算法 電子科技大學(xué)學(xué)報 2000 03 10 模糊熵的可靠性設(shè)計與運用 七、模糊熵的一些應(yīng)用七、模糊熵的一些應(yīng)用 11 基于凸多項式模糊熵的圖象閾值方法 控制與決策 2000 03 12 基于模糊熵的多目標模糊優(yōu)選模型及其應(yīng)用 煤炭學(xué)報 2000 04 13 基于模糊熵的安全等級隸屬度向量的離散化方法 中國有色金屬學(xué)報 2000 04 14 一類vague集模糊熵的構(gòu)造方法 華中科技大學(xué)學(xué)報 2001 09 15 用模糊評價法和模糊熵確定拱橋洪水淹沒深度 武漢城市建設(shè)學(xué)