1、2022-11-2613.6 支撑向量机2022-11-2633.6 支撑向量机2022-11-2643.6 支撑向量机2022-11-2653.6 支撑向量机2022-11-2663.6 支撑向量机2022-11-2673.6 支撑向量机2022-11-2683.6 支撑向量机2022-11-2693.6 支撑向量机2022-11-26103.6 支撑向量机2022-11-26113.6 支撑向量机2022-11-26123.6 支撑向量机2022-11-26133.6 支撑向量机2022-11-26143.6 支撑向量机2022-11-26153.6 支撑向量机2022-11-26163.
2、6 支撑向量机公式推导公式推导2022-11-26173.6 支撑向量机非线性可分时非线性可分时2022-11-26183.6 支撑向量机非线性可分时非线性可分时2022-11-26193.6 支撑向量机非线性可分时非线性可分时2022-11-26203.6 支撑向量机非线性可分时,在广义线非线性可分时,在广义线性判别函数时是变换到新性判别函数时是变换到新的空间中的空间中2022-11-26212)3(:12)3(12)1(:)(:2)1(!2)!2(!:)(,)()(:)(21111112 nnnnnnnnxdnnnnnCnydxfywxwxxwxwxdxdniinininijniniiji
3、ijiii为变换后的特征空间维数去掉常数项的总项数为上式第三项的项数为上式第二项的项数为上式第一项的项数为为线性函数可使为二次或一次式取为二次多项式时当2022-11-26223.6 支撑向量机一个例子一个例子2022-11-26233.6 支撑向量机X要变换到高维空间要变换到高维空间2022-11-26243.6 支撑向量机用用X的函数表示这种变换的函数表示这种变换2022-11-26253.6 支撑向量机用用X的函数表示这种变换的函数表示这种变换2022-11-26263.6 支撑向量机要做要做(m+2)(m+1)/2次次乘法乘法和加和加法法2022-11-26273.6 支撑向量机202
4、2-11-26283.6 支撑向量机2022-11-26293.6 支撑向量机2022-11-26303.6 支撑向量机2022-11-26313.6 支撑向量机2022-11-26323.6 支撑向量机2022-11-26333.6 支撑向量机2022-11-26343.6 支撑向量机2022-11-26353.6 支撑向量机结论:结论:当我们处理非线性可分情况时,将当我们处理非线性可分情况时,将特征向量变换到高维空间时,我们特征向量变换到高维空间时,我们可以只要定义变换后的内积运算,可以只要定义变换后的内积运算,而不必真的进行这种变换。统计学而不必真的进行这种变换。统计学习理论指出,只要这
5、种运算满足习理论指出,只要这种运算满足Mercer条件,它就可以作为这里的条件,它就可以作为这里的内积使用内积使用0)()(),()(0)x(),(2xdxdxxxxKxdxxxKMercer,有且条件是,对于任意的的内积运算的充分必要它是某个特征空间中对于任意的对称函数条件2022-11-26363.6 支撑向量机*),(*sgn()(),(21)(,),(111,bxxKyxdxxKyyQxxKiniiininjijijijii变为:而相应的判别函数式也此时的优化函数变为:的特征空间,把原特征空间变换到新就相当于积代替最优分类面中的点如果用函数2022-11-26373.6 支撑向量机2022-11-26383.6 支撑向量机由于最终的判别函数中实际只包含与支持向由于最终的判别函数中实际只包含与支持向量的内积和求和,因此,识别时的计算复杂量的内积和求和,因此,识别时的计算复杂度取决于支持向量的个数度取决于支持向量的个数2022-11-26393.6 支撑向量机