支持向量機在模式識別中的應用

模式識別結課論文題目：支持向量機在模式識別中的應用學院河北大學工商學院學科門類理科專業(yè)網(wǎng)絡工程學號姓名指導教師2015年11月5河北大學學年論文（課程設計）任務書學生姓名指導教師論文（設計）題目支持向量機在模式識別中的應用主要研究（設計）內(nèi)容支持向量的應用研究方法通過線性svm及非線性svm函數(shù)方法的分析，實現(xiàn)支持向量機的算法，并在matlab上實現(xiàn)實例說明主要任務及目標支持向量機實現(xiàn)分類主要參考文獻【1】劉霞，盧葦.SVM在文本分類中的應用研究，計算機教育，2021.【2】唐春生，張磊.文本分類研究進展【3】張學工.關于統(tǒng)計學習理論與支持向量機，自動化學報，2021.1【4】秦玉平.基于支持向量機的文本分類算法研究【5】李紅蓮,王春花,袁保宗.一種改進的支持向量機NN-SVM[J].計算機學報,2021,26(8):1015-1020.進度安排論文（設計）各階段名稱日期選題第7周查詢資料第8周整理資料第8周論文草擬第9周論文成型第9周指導教師簽字：系主任簽字：主管教學院長簽字：

河北大學軟件工程課程設計成績評定表學院：河北大學工商學院學生姓名周婷婷專業(yè)/年級2021級網(wǎng)絡工程一班論文（設計）題目支持向量機在模式識別中的應用論文（設計）內(nèi)容提要1支持向量機1．1線性SVM1．2非線性SVM2支持向量機分類算法的實現(xiàn)3實例說明及實驗結果指導教師評語成績：指導老師（簽名）：年月日摘要在VladimirN.VaPnik的統(tǒng)計學習理論基礎上發(fā)展起來的支持向量機(SupporVectorMachine，SVM)是目前模式識別領域中最先進的機器學習算法。本文對支持向量機及其在模式識別中應用的若干問題作了研究。關鍵詞：支持向量機；模式識別；AbstractVaPnikinVladimirN.BasedonstatisticallearningtheoryofsupportVectorMachine(SupporVectorMachine,SVM)iscurrentlyinthefieldofpatternrecognitionisthemostadvancedMachinelearningalgorithms.Inthispaper,supportvectormachine(SVM)anditsapplicationinpatternrecognitionproblemswerestudiedKeyword:supportvectormachines;patternrecognition;引言機器學習是現(xiàn)代智能技術中的重要方面，對樣本進行訓練并尋找規(guī)律，利用這些規(guī)律對未來數(shù)據(jù)或無法觀測的數(shù)據(jù)進行預測是基于數(shù)據(jù)的機器學習的基本思想。統(tǒng)計學理論是我們面對數(shù)據(jù)而又缺乏理論模型時最基本的也是唯一的分析手段.傳統(tǒng)統(tǒng)計學研究的是漸進理論，即假設樣本數(shù)目無窮大，但在實際應用中樣本數(shù)目總是有限的，一些好的基于漸進理論的學習算法在實際應用當中往往表現(xiàn)得并不理想，因此研究小樣本的機器學習問題就具有非常重要的實際意義。VladimirN·Vapnik等人從20世紀60年代開始就致力于研究有限樣本的機器學習問題，經(jīng)過幾十年的研究，終于到90年代中期形成了一個較完整的理論體系，即統(tǒng)計學習理論(StatistiealL’earningTheory).由于神經(jīng)網(wǎng)絡等學習方法在理論上難以有實質(zhì)性的進展，因此統(tǒng)計學習理論受到人們廣泛的重視.近幾年來，在統(tǒng)計學習理論的基礎上又發(fā)展出一種新的學習機器—支持向量機(SupportveetorMaehine)，它在解決小樣本、非線性及高維模式識別問題中表現(xiàn)出許多特有的優(yōu)勢.支持向量機是建立在統(tǒng)計學習理論的VC維理論和結構風險最小原理基礎上的，根據(jù)有限的樣本信息在模型的復雜性和學習能力之間尋求最佳折衷，以獲得最好的推廣能力。目前，統(tǒng)計學習理論和支持向量機己被越來越多地應用到模式識別領域，如手寫體文字識別、人臉識別、生物識別、三維對象識別等，并取得了良好的識別效果。本文著重介紹支持向量機的基本原理、關鍵問題、研究狀況及其在模式識別領域中的應用，希望今后能有更多的人研究和應用這一優(yōu)秀的學習機器。1、支持向量機1．1線性SVM最優(yōu)超平面SVM方法是從線性可分的情況下的最優(yōu)分類面(OptimalHyperplane)提出的。設線性可分樣本集為，i=1，?，n；Y={+1，-1}是類別標號，分類面方程為：W*X+b=0(1)這個平面將兩類樣本沒有錯誤的分開，并且使得離分類面最近的樣本到分類面的距離最大，即分類間隔最大，等價于使最小，W為分類面的法向量。而要求分類面對所有樣本正確分類，約束條件為：，i=1,2,L,n(2)因此，滿足上述條件且使得llW最小的分類面就是最優(yōu)分類面。過兩類樣本中離分類面最近的點且平行于最優(yōu)分類面的超平面H．、H上的訓練樣本就是式(2)中使等號成立的那些樣本叫做支持向量。最優(yōu)分類面可以表示為如下約束的優(yōu)化問題，即在式(2)的約束下，求函數(shù)(3)的最小值。為此，可以定義如下的拉格朗日函數(shù)：(4)(4)式中，>0為拉格朗日系數(shù)。把原問題轉化為如下較簡單的對偶問題：i=1,……n。1．2非線性SVM上面討論的是最優(yōu)和廣義線性分類函數(shù)，要解決一個特征空間中的最優(yōu)線性分類問題，我們只需知道這個空間中的內(nèi)積運算即可。按照廣義線性判別函數(shù)的思路，要解決一個非線性問題，我們可以設法將它通過非線性變換轉換為另一個空間的線性問題，在這個變換空間求最優(yōu)或最廣義分類面?？紤]Mercer條件：對于任意的對稱函數(shù)，它是某個特征空間的內(nèi)積運算的充分必要條件是，對與任意的恒不為0，且，有，顯然這一條件不難滿足。如果用內(nèi)積K(x，Y)代替最優(yōu)分類面的點積，就相當于把原特征空間變換到了某一新的特征空間，此時的支持向量機為：相應的判別函數(shù)也應變?yōu)椋?。其它的條件不變，這就是支持向量機。支持向量機的思想可以概括為：首先通過非線性變換將輸入空間變換到一個高維空間，然后就這個新空間中求取最優(yōu)線性分類面，而這種非線性變換是通過定義適當?shù)暮瘮?shù)實現(xiàn)的，這些函數(shù)叫做核函數(shù)。選擇不同的核函數(shù)就構成不同的支持向量機，常用的有以下三類核函數(shù)：linear：K(x，y)=x*y；ploy：K(x，y)=；rbf：K(x，y)=;2、支持向量機分類算法的實現(xiàn)支持向量機算法是在訓練樣本的特征空間求取能把兩類樣本沒有錯誤分開的最大間隔超平面，在數(shù)學上表示為一個凸二次規(guī)劃的問題。也可以說算法求解的主要內(nèi)容是通過求解二次規(guī)劃(QP)問題，這個優(yōu)化問題的求解是支持向量機算法的核心，可以說支持向量機的算法就得到了實現(xiàn)。前面所述支持向量機算法可以表示為在式(6)和式(7)的約束下求式(5)取最小值時的拉格朗日乘子為訓練樣本的個數(shù)。(5)(6)(7)其中：為n元列向量，是要求的拉格朗日乘子；是一個正定矩陣；是樣本的所屬類別，由1或一1組成的列向量；xi為訓練樣本?？梢钥闯?，求解支持向量機就是求解上述的一個二次規(guī)劃問題，求解后得到拉格朗日乘子，也就求得了最大間隔超平面。求解這個二次規(guī)劃問題需要深厚的數(shù)學功底數(shù)值計算方面的技能，在主流程序語言中實現(xiàn)算法又需要專業(yè)的計算機程序設計的知識。在MATLAB環(huán)境下求解這一問題會變得非常簡單，這得益于MATLAB軟件強大的優(yōu)化工具箱，提供了一個求解二次規(guī)劃的函數(shù)，可以直接調(diào)用。二次規(guī)劃問題(quadraticprogramming)的標準形式為：sub．toAeqx=beq其中，H、A、Aeq為矩陣；f、b、beq、lb、ub、x為向量，其它形式的二次規(guī)劃問題都可轉化為標準形式。MATLAB5．x版中的qp函數(shù)已被6．0版中的函數(shù)quadprog取代。函數(shù)quadprog格式如下：[x，fva1]=quadprog(H，f，A，b，Aeq，beq，lb，ub，x0)其中H、f、A、b、Aeq、beq、lb、ub為標準形中的參數(shù)；x為求解得到的最優(yōu)值，也就是二次規(guī)劃的解析解；lb、ub分別為x的下界與上界，滿足不等式約；Aeq、beq滿足等約束條件Aeq*x=beq；x0為設置的初值，這個值是人為賦予x的值，一般x為零；fval為目標函數(shù)最小值，可以看出，支持向量機算法是一個標準的二次規(guī)劃問題；，根據(jù)訓練樣本數(shù)據(jù)求出；f=-1；支持向量機算法沒形式的不等式約束條件，所以A、b為空矩陣；，beq=Y，實現(xiàn)AY=0等式約束；Lb=0、ub=C，實現(xiàn)不等式約束；x0=0，賦予A的初始值為零。樣本數(shù)據(jù)已知，c是人工賦于的值。3、實例說明及實驗結果3.1實驗程序代碼%定義核函數(shù)及相關參數(shù)nu=0.2;%nu->(0,1]在支持向量數(shù)與錯分樣本數(shù)之間進行折衷ker=struct('type','linear');%構造兩類訓練樣本n=50;randn('state',6);x1=randn(2,n);y1=ones(1,n);x2=5+randn(2,n);y2=-ones(1,n);figure;plot(x1(1,:),x1(2,:),'bx',x2(1,:),x2(2,:),'k.');axis([-38-38]);title('C-SVC')holdon;X=[x1,x2];%訓練樣本，d*n的矩陣，n為樣本個數(shù)，d為樣本維數(shù)Y=[y1,y2];%訓練目標，1*n的矩陣，n為樣本個數(shù)，值為+1或-1%------------------------------------------------------------%%訓練支持向量機ticsvm=svmTrain('svc_nu',X,Y,ker,nu);t_train=toc%尋找支持向量?a=svm.a;epsilon=1e-8;%如果小于此值則認為是0i_sv=find(abs(a)>epsilon);%支持向量下標plot(X(1,i_sv),X(2,i_sv),'ro');%------------------------------------------------------------%%測試輸出[x1,x2]=meshgrid(-2:0.1:7,-2:0.1:7);[rows,cols]=size(x1);nt=rows*cols;%2測試樣本數(shù)Xt=[reshape(x1,1,nt);reshape(x2,1,nt)];ticYd=svmSim(svm,Xt);%測試輸出t_sim=tocYd=reshape(Yd,rows,cols);contour(x1,x2,Yd,[00],'m');%分類面holdoff;3.2實驗結果參考文獻：【1】劉霞，盧葦.SVM在文本分類中的應用研究，計算機教育，2021.【2】唐春生，張磊.文本分類研究進展【3】張學工.關于統(tǒng)計學習理論與支持向量機，自動化學報，2021.1【4】秦玉平.基于支持向量機的文本分類算法研究【5】李紅蓮,王春花,袁保宗.一種改進的支持向量機NN-SVM[J].計算機學報,2021,26(8):1015-1020.

咖啡店創(chuàng)業(yè)計劃書第一部分：背景在中國，人們越來越愛喝咖啡。隨之而來的咖啡文化充滿生活的每個時刻。無論在家里、還是在辦公室或各種社交場合，人們都在品著咖啡?？Х戎饾u與時尚、現(xiàn)代生活聯(lián)系在一齊。遍布各地的咖啡屋成為人們交談、聽音樂、休息的好地方，咖啡豐富著我們的生活，也縮短了你我之間的距離，咖啡逐漸發(fā)展為一種文化。隨著咖啡這一有著悠久歷史飲品的廣為人知，咖啡正在被越來越多的中國人所理解。第二部分：項目介紹第三部分：創(chuàng)業(yè)優(yōu)勢目前大學校園的這片市場還是空白，競爭壓力小。而且前期投資也不是很高，此刻國家鼓勵大學生畢業(yè)后自主創(chuàng)業(yè)，有一系列的優(yōu)惠政策以及貸款支持。再者大學生往往對未來充滿期望，他們有著年輕的血液、蓬勃的朝氣，以及初生牛犢不怕虎的精神，而這些都是一個創(chuàng)業(yè)者就應具備的素質(zhì)。大學生在學校里學到了很多理論性的東西，有著較高層次的技術優(yōu)勢，現(xiàn)代大學生有創(chuàng)新精神，有對傳統(tǒng)觀念和傳統(tǒng)行業(yè)挑戰(zhàn)的信心和欲望，而這種創(chuàng)新精神也往往造就了大學生創(chuàng)業(yè)的動力源泉，成為成功創(chuàng)業(yè)的精神基礎。大學生創(chuàng)業(yè)的最大好處在于能提高自己的潛力、增長經(jīng)驗，以及學以致用;最大的誘人之處是透過成功創(chuàng)業(yè)，能夠?qū)崿F(xiàn)自己的理想，證明自己的價值。第四部分：預算1、咖啡店店面費用咖啡店店面是租賃建筑物。與建筑物業(yè)主經(jīng)過協(xié)商，以合同形式達成房屋租賃協(xié)議。協(xié)議資料包括房屋地址、面積、結構、使用年限、租賃費用、支付費用方法等。租賃的優(yōu)點是投資少、回收期限短。預算10-15平米店面，啟動費用大約在9-12萬元。2、裝修設計費用咖啡店的滿座率、桌面的周轉率以及氣候、節(jié)日等因素對收益影響較大。咖啡館的消費卻相對較高，主要針對的也是學生人群，咖啡店布局、格調(diào)及采用何種材料和咖啡店效果圖、平面圖、施工圖的設計費用，大約6000元左右3、裝修、裝飾費用具體費用包括以下幾種。(1)外墻裝飾費用。包括招牌、墻面、裝飾費用。(2)店內(nèi)裝修費用。包括天花板、油漆、裝飾費用，木工、等費用。(3)其他裝修材料的費用。玻璃、地板、燈具、人工費用也應計算在內(nèi)。整體預算按標準裝修費用為360元/平米，裝修費用共360*15=5400元。4、設備設施購買費用具體設備主要有以下種類。(1)沙發(fā)、桌、椅、貨架。共計2250元(2)音響系統(tǒng)。共計450(3)吧臺所用的烹飪設備、儲存設備、洗滌設備、加工保溫設備。共計600(4)產(chǎn)品制造使用所需的吧臺、咖啡杯、沖茶器、各種小碟等。共計300凈水機，采用美的品牌，這種凈水器每一天能生產(chǎn)12l純凈水，每一天銷售咖啡及其他飲料100至200杯，價格大約在人民幣1200元上下?？Х葯C，咖啡機選取的是電控半自動咖啡機，咖啡機的報價此刻就應在人民幣350元左右，加上另外的附件也不會超過1200元。磨豆機，價格在330―480元之間。冰砂機，價格大約是400元一臺，有點要說明的是，最好是買兩臺，不然夏天也許會不夠用。制冰機，從制冰量上來說，一般是要留有富余?？钪票鶛C每一天的制冰量是12kg。價格稍高550元，質(zhì)量較好，所以能夠用很多年，這么算來也是比較合算的。5、首次備貨費用包括購買常用物品及低值易耗品，吧臺用各種咖啡豆、奶、茶、水果、冰淇淋等的費用。大約1000元6、開業(yè)費用開業(yè)費用主要包括以下幾種。(1)營業(yè)執(zhí)照辦理費、登記費、保險費;預計3000元(2)營銷廣告費用;預計450元7、周轉金開業(yè)初期，咖啡店要準備必須量的流動資金，主要用于咖啡店開業(yè)初期的正常運營。預計2000元共計： 120000+6000+5400+2250+450+600+300+1200+1200+480+400+550+1000+3000+450+2000=145280元第五部分：發(fā)展計劃1、營業(yè)額計劃那里的營業(yè)額是指咖啡店日常營業(yè)收入的多少。在擬定營業(yè)額目標時，必須要依據(jù)目前市場的狀況，再思考到咖啡店的經(jīng)營方向以及當前的物價情形，予以綜合衡量。按照目前流動人口以及人們對咖啡的喜好預計每一天的營業(yè)額為400-800，根據(jù)淡旺季的不同可能上下浮動2、采購計劃依據(jù)擬訂的商品計劃，實際展開采購作業(yè)時，為使采購資金得到有效運用以及商品構成達成平衡，務必針對設定的商品資料排定采購計劃。透過營業(yè)額計劃、商品計劃與采購計劃的確立，我們不難了解，一家咖啡店為了營業(yè)目標的達成，同時有效地完成商品構成與靈活地運用采購資金，各項基本的計劃是不可或缺的。當一家咖啡店設定了營業(yè)計劃、商品計劃及采購計劃之后，即可依照設定的采購金額進行商品的采購。經(jīng)過進貨手續(xù)檢驗、標價之后，即可寫在菜單上。之后務必思考的事情，就是如何有效地將這些商品銷售出去。3、人員計劃為了到達設定的經(jīng)營目標，經(jīng)營者務必對人員的任用與工作的分派有一個明確的計劃。有效利用人力資源，開展人員培訓，都是我們務必思考的。4、經(jīng)費計劃經(jīng)營經(jīng)費的分派是管理的重點工作。通常能夠?qū)⒖Х鹊杲?jīng)營經(jīng)費分為人事類費用(薪資、伙食費、獎金等)、設備類費用(修繕費、折舊、租金等)、維持類費用(水電費、消耗品費、事務費、雜費等)和營業(yè)類費用(廣告宣傳費、包裝費、營業(yè)稅等)。還能夠依其性質(zhì)劃分成固定費用與變動費用。我們要針對過去的實際業(yè)績設定可能增加的經(jīng)費幅度。5、財務計劃財務計劃中的損益計劃最能反映全店的經(jīng)營成果。咖啡店經(jīng)營者在營運資金的收支上要進行控制，以便做到經(jīng)營資金合理的調(diào)派與運用。總之，以上所列的六項基本計劃(營業(yè)額、商品采購、銷售促進、人員、經(jīng)費、財務)是咖啡店管理不可或缺的。當然，有一些咖啡店為求管理上更深入，也能夠配合工作實際需要制訂一些其他輔助性計劃。第六部分：市場分析2019-2021年中國咖啡市場經(jīng)歷了高速增長的階段，在此期間咖啡市場總體銷售的復合增長率到達了17%;高速增長的市場為咖啡生產(chǎn)企業(yè)帶給了廣闊的市場空間，國外咖啡生產(chǎn)企業(yè)如雀巢、卡夫、ucc等企業(yè)紛紛加大了在中國的投資力度，為爭取未來中國咖啡市場的領先地位打下了良好的基礎?？Х蕊嬃现饕侵杆偃芸Х群凸嘌b即飲咖啡兩大類咖啡飲品;在速溶咖啡方面，2018-2021年間中國速溶咖啡市場規(guī)模年均增長率到達16%，顯示出還處于成長階段的中國速溶咖啡市場的高增長性和投資空間;在灌裝即飲咖啡方面，2008-2010年間中國灌裝即飲咖啡市場年均增長率也同樣到達15%;未來幾年，中國咖啡飲料的前景仍將被看好。現(xiàn)今咖啡店主要是以連鎖式經(jīng)營，市場主要被幾個集團壟斷。但由于幾個集