SVM線性與非線性支持向量機_第1頁
SVM線性與非線性支持向量機_第2頁
SVM線性與非線性支持向量機_第3頁
SVM線性與非線性支持向量機_第4頁
SVM線性與非線性支持向量機_第5頁
已閱讀5頁，還剩20頁未讀， 繼續(xù)免費閱讀

下載本文檔

版權說明：本文檔由用戶提供并上傳，收益歸屬內(nèi)容提供方，若內(nèi)容存在侵權，請進行舉報或認領

文檔簡介

1、支持向量機SVM 2015.11.25 主要內(nèi)容 數(shù)據(jù)線性可分的情況 數(shù)據(jù)非線性可分的情況 支持向量機(Support Vector Machine, SVM)一種對線性 和非線性數(shù)據(jù)進行分類的方法。 SVM是一種算法，使用一種非線性映射，把原訓練數(shù)據(jù)映 射到較高的維上；在新的維上，搜索最優(yōu)分離超平面。 數(shù)據(jù)線性可分的情況 首先考慮最簡單的情況兩類問題，是線性可分的。 最佳標準：分類間隔 分類間隔：兩類樣本 中離分類面最近的樣 本到分類面的距離稱 作分類間隔。 數(shù)據(jù)線性可分的情況 如何找出最佳最佳超平面？ SVM通過搜索最大間隔超平面(Maximum Marginal Hyperplane,

2、MMH)來處理該問題。 分離超平面： 由最優(yōu)超平面定義的分類 決策函數(shù)為： 0g xWXb sgnfxg x 數(shù)據(jù)線性可分的情況 由點到線的距離公式可得： 從分離超平面到H1上的任意點的距離 是 1 W 因為W是超平面的法向量，所以W實 際上只由在H1平面上的樣本點確定。 在H1上的點叫做支持向量，它們撐起 了分界線。 數(shù)據(jù)線性可分的情況 于是問題便轉換為了求 很容易看出當|W|=0的時候就得到了目標函數(shù)的最小值。 反映在圖中，就是H1與H2兩條直線間的距離無限大，所有 樣本都進入了無法分類的灰色地帶。 解決方案：加一個約束條件對所有樣本正確分類 21 min 2 w 數(shù)據(jù)線性可分的情況 數(shù)據(jù)線性可分的情況 數(shù)據(jù)線性可分的情況 數(shù)據(jù)線性可分的情況 數(shù)據(jù)線性可分的情況 數(shù)據(jù)線性可分的情況 決策 數(shù)據(jù)線性可分的情況 改進：加入 松弛變量 ：允許實際分類中一定的不準確 性的存在 懲罰因子C：為了避免系統(tǒng)輕易放棄一些重要 的數(shù)據(jù)，減小系統(tǒng)損失 i 數(shù)據(jù)線性不可分的情況 對于上述的SVM，處理能力還是很弱，僅僅能處理線性可分的數(shù)據(jù)。如果數(shù) 據(jù)線性不可分的時候，我們就將低維的數(shù)據(jù)映射到更高的維低維的數(shù)據(jù)映射到更高的維，以此使數(shù)據(jù)重 新線性可分。這轉化的關鍵便是核函數(shù)核函數(shù)。 數(shù)據(jù)線性不可分的情況 數(shù)據(jù)線性不可分的情況 數(shù)據(jù)線性不可分的情況 數(shù)據(jù)線性不可分的情況 數(shù)據(jù)線性不可分的情況

溫馨提示

  • 1. 本站所有資源如無特殊說明，都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等，如果需要附件，請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙，網(wǎng)頁內(nèi)容里面會有圖紙預覽，若沒有圖紙預覽就沒有圖紙。
  • 4. 未經(jīng)權益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間，僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理，對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯，并不能對任何下載內(nèi)容負責。
  • 6. 下載文件中如有侵權或不適當內(nèi)容，請與我們聯(lián)系，我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

最新文檔

評論

0/150

提交評論