[科普中國]-核函數(shù)

定義

核函數(shù)包括線性核函數(shù)、多項式核函數(shù)、高斯核函數(shù)等，其中高斯核函數(shù)最常用，可以將數(shù)據(jù)映射到無窮維，也叫做徑向基函數(shù)（Radial Basis Function 簡稱 RBF），是某種沿徑向?qū)ΨQ的標(biāo)量函數(shù)。1 通常定義為空間中任一點x到某一中心xc之間歐氏距離的單調(diào)函數(shù) ，可記作 k（||x-xc||）， 其作用往往是局部的，即當(dāng)x遠(yuǎn)離xc時函數(shù)取值很小。

簡介核函數(shù)發(fā)展歷史

早在1964年Aizermann等在勢函數(shù)方法的研究中就將該技術(shù)引入到機器學(xué)習(xí)領(lǐng)域，但是直到1992年Vapnik等利用該技術(shù)成功地將線性SVMs推廣到非線性SVMs時其潛力才得以充分挖掘。而核函數(shù)的理論則更為古老，Mercer定理可以追溯到1909年，再生核希爾伯特空間(ReproducingKernel Hilbert Space, RKHS)研究是在20世紀(jì)40年代開始的。

方法原理根據(jù)模式識別理論，低維空間線性不可分的模式通過非線性映射到高維特征空間則可能實現(xiàn)線性可分，但是如果直接采用這種技術(shù)在高維空間進(jìn)行分類或回歸，則存在確定非線性映射函數(shù)的形式和參數(shù)、特征空間維數(shù)等問題，而最大的障礙則是在高維特征空間運算時存在的“維數(shù)災(zāi)難”。采用核函數(shù)技術(shù)可以有效地解決這樣問題。

設(shè)x,z∈X,X屬于R（n）空間，非線性函數(shù)Φ實現(xiàn)輸入空間X到特征空間F的映射，其中F屬于R（m），n