結(jié)合全局和局部正則化的半監(jiān)督二分類(lèi)算法

結(jié)合全局和局部正則化的半監(jiān)督二分類(lèi)算法摘要:針對(duì)在半監(jiān)督分類(lèi)問(wèn)題中單獨(dú)使用全局學(xué)習(xí)容易出現(xiàn)的在整個(gè)輸入空間中較難獲得一個(gè)優(yōu)良的決策函數(shù)的問(wèn)題,以及單獨(dú)使用局部學(xué)習(xí)可在特定的局部區(qū)域內(nèi)習(xí)得較好的決策函數(shù)的特點(diǎn),提出了一種結(jié)合全局和局部正則化的半監(jiān)督二分類(lèi)算法。該算法綜合全局正則項(xiàng)和局部正則項(xiàng)的優(yōu)點(diǎn),基于先驗(yàn)知識(shí)構(gòu)建的全局正則項(xiàng)能平滑樣本的類(lèi)標(biāo)號(hào)以避免局部正則項(xiàng)學(xué)習(xí)不充分的問(wèn)題,通過(guò)基于局部鄰域內(nèi)樣本信息構(gòu)建的局部正則項(xiàng)使得每個(gè)樣本的類(lèi)標(biāo)號(hào)具有理想的特性,從而構(gòu)造出半監(jiān)督二分類(lèi)問(wèn)題的目標(biāo)函數(shù)。通過(guò)在標(biāo)準(zhǔn)二類(lèi)數(shù)據(jù)集上的實(shí)驗(yàn),結(jié)果表明所提出的算法其平均分類(lèi)正確率和標(biāo)準(zhǔn)誤差均優(yōu)于基于拉普拉斯正則項(xiàng)方法、基于正則化拉普拉斯正則項(xiàng)方法和基于局部學(xué)習(xí)正則項(xiàng)方法。

關(guān)鍵詞:半監(jiān)督學(xué)習(xí);二分類(lèi)問(wèn)題;全局正則化;局部正則化;平滑

semi-supervisedbinaryclassificationalgorithmbasedon

globalandlocalregularization

英文作者名ljia1,2,3*

英文地址(1.schoolofmathematicalsciences,innermongoliauniversity,hohhotneimongol010021,china;

2.collegeofcomputerandinformationscience,chongqingnormaluniversity,chongqing400047,china;

3.collegeofscience,chinaagriculturaluniversity,beijing100083,china)

abstract:asforsemi-supervisedclassificationproblem,itisdifficulttoobtainagoodclassificationfunctionfortheentireinputspaceifgloballearningisusedalone,whileiflocallearningisutilizedalone,agoodclassificationfunctiononsomespecifiedregionsoftheinputspacecanbegot.accordingly,anewsemi-supervisedbinaryclassificationalgorithmbasedonamixedlocalandglobalregularizationwaspresentedinthispaper.thealgorithmintegratedthebenefitsofglobalregularizerandlocalregularizer.globalregularizerwasbuilttosmooththeclasslabelsofthedatasoastolesseninsufficienttrainingoflocalregularizer,andbasedupontheneighboringregion,localregularizerwasconstructedtomakeclasslabelofeachdatahavethedesiredproperty,thustheobjectivefunctionofsemi-supervisedbinaryclassificationproblemwasconstructed.comparativesemi-supervisedbinaryclassificationexperimentsonsomebenchmarkdatasetsvalidatethattheaverageclassificationaccuracyandthestandarderroroftheproposedalgorithmareobviouslysuperiortootheralgorithms.

[1]鄧乃揚(yáng),田英杰.數(shù)據(jù)挖掘中的新方法——支持向量機(jī)[m].北京:科學(xué)出版社,2004.

[2]鄧乃揚(yáng),田英杰.支持向量機(jī):理論、算法與拓展[m].北京:科學(xué)出版社,2009.

[3]呂佳.基于動(dòng)態(tài)隧道系統(tǒng)的k-means聚類(lèi)算法研究[j].重慶師范大學(xué)學(xué)報(bào):自然科學(xué)版,2009,26(1):73-77.

[4]chapelleo,scholkopfb,ziena.semi-supervisedlearning[m].cambridge:mitpress,2006.

[5]zhuxj.semi-supervisedlearningliteraturesurvey[eb/ol].[2010-05-10]./~jerryzhu/pub/ssl_survey.pdf.

[6]呂佳.基于改進(jìn)分類(lèi)模型的文本分類(lèi)系統(tǒng)實(shí)現(xiàn)[j].重慶師范大學(xué)學(xué)報(bào):自然科學(xué)版,2009,26(2):68-73.

[7]zhuxj,ghaharmaniz,laffertyj.semi-supervisedlearningusinggaussianfieldsandharmonicfunctions[c