python优化核函数 kpca都有哪些核函数

网站已改版,请使用新地址访问:
KPCA 核函数主成分分析,用于数据的特征提取,对于训练样本的降维有较好的效果 matlab 238万源代码下载-
&文件名称: KPCA
& & & & &&]
&&所属分类:
&&开发工具: matlab
&&文件大小: 2 KB
&&上传时间:
&&下载次数: 1
&&提 供 者:
&详细说明:核函数主成分分析,用于数据的特征提取,对于训练样本的降维有较好的效果-Kernel principal component analysis, feature extraction for data, which can effectively reduce the dimension of training samples, the better
文件列表(点击判断是否您需要的文件,如果是垃圾请在下面评价投诉):
&&新建 文本文档.txt
&近期下载过的用户:
&输入关键字,在本站238万海量源码库中尽情搜索:
&[] - 核主分量分析matlab程序.对train进行基于高斯径向基kpca降维,x行数目为样本数,列数目为特征数,并用test进行测试核函数主元
kernel principal component
核函数主元
基于4个网页-
kernel principal component analysis
kernel principle component analysis(KPCA)
kernel component analysis
kernel-based principal component analysis
Sparse kernel principle component analysis(SKPCA)
Supervised Kernel Principal Component Analysis(SKPCA)
更多收起网络短语
核函数主元分析;
Kernel Principal Component Analysis;
提出一种基于小波核函数的核主元特征约简方法。
A Study of Reduction of Attributes and Set Covering Problem;
核函数主元分析(KPCA)可用于非线性过程监控。
Kernel principal component analysis(KPCA) has emerged in recent years as a nonlinear process monitoring technique.
$firstVoiceSent
- 来自原声例句
请问您想要如何调整此模块?
感谢您的反馈,我们会尽快进行适当修改!
请问您想要如何调整此模块?
感谢您的反馈,我们会尽快进行适当修改!查看: 696|回复: 0|关注: 0
matlab程序方面问题
<h1 style="color:# 麦片财富积分
新手, 积分 11, 距离下一级还需 39 积分
关注者: 1
核主成分分析,以及研究了不知道多少年了。说烂了一点也不过分,可是对于新接触的人来说,太多杂乱文章,太多重复文章,收集有用的信息也不容易。
注意的地方:
1、对于kpca特征提取函数:对于训练数据而言,计算核函数,中心化,计算特征值特征向量,按照贡献选取维数长度,最后核函数投影,都能写出来。
2、测试数据呢?核函数的计算的地方,用到的是test(i,:)-train(j,:),切对于核函数的归一化也与训练数据对应。然后投影。
3、然后进行训练,测试,就ok。
这是大体的思路,可是中间有很多小的问题需不明白:
1.核函数参数如何选择?它有什么具体的意义吗?可以根据什么得到吗?&&var对于识别率的影响真的特别大,有的时候能到达100,有的时候为0。
2.我看到一篇帖子对原始数据做了标准化处理,就是X=zscore(X),试问这个有必要吗?有什么好处?不做有什么问题?因为我发现,这一步对识别率的影响也非常大。
3.如果我得到了以下数据:
project_vector----训练数据核函数的投影
eigenvector--------满足贡献率的投影向量
test_data_project--测试数据的投影
train_label--------训练数据标签
test_label---------测试数据标签
用svm可以直接做分类:
model=svmtrain(train_label,project_vector);
acc=svmpredict(test_label,test_data_project,model);
用其他的分类器怎么计算分类识别率?如果用到且上面没有参数给一下说明?比如说,神经网络,比如说最近邻分类器等等。
有做这方面的,希望给写指点
站长推荐 /2
机器视觉和人工智能在医疗设备中的应用及实现
MATLAB中文论坛是全球最大的 MATLAB & Simulink 中文社区。用户免费注册会员后,即可下载代码,讨论问题,请教资深用户及结识书籍作者。立即注册加入我们吧!
MATLAB官方社交平台
MATLAB中文论坛微社区三、核函数引出
1、为什么要用核函数?
我们上面其实通过解w和b已经得到了一个线性可分的分类器了,而且已经提到之所以用对偶形式求解就是因为
对偶形式可以引入核函数解决线性不可分的情况。
核函数解决线性不可分问题的原理就是将数据映射到高维的空间去,解决原始空间的线性不可分问题。
举个例子:
比如我们有一个一维的数据分布是如下图的样子,你想把它用一个直线来分开,你发现是不可能的,因为他们是间
隔的。所以不论你画在哪,比如绿色竖线,都不可能把两个类分开。
但是如果我们把这个使用一个最简单的方式映射到二维中,x-&(x, x^2)。比如:
这时候就线性可分了。
这就是一个简单的升维的方法,而核函数就是给我们提供了这样的一个机会。简单来说,在SVM中核函数kernel的
基本目的就是映射。
2、核函数和映射的关系
我们将原始的分类函数
通过一种映射变为下面的形式
和b都是已知的了就只要求找到这映射就可以解决问题了。但事实并不是这样的,虽然我们可以求解就
可以得到正确答案了,但是这样计算的代价实在是太大了。对一个二维空间做映射,选择的新空间是原始空间的所有
一阶和二阶的组合,得到了五个维度;如果原始空间是三维,那么我们会得到 19 维的新空间,这个数目是呈爆炸性
增长的。所以不是单单靠映射这么简单。
现在我们其实还没说到核函数,那么核函数怎么和映射联系到一起呢?
其实有很多核函数,它们经过转换就能够得到内积的形式,可以简化计算。例如对于这样一种核函数
,假设x和z都是n维的数据,我们把它展开可以得到:
可以看出,只要变换一下就得到了内积的形式,而我们发现用核函数很简单,只要相乘再平方就好了。你们可以用最
简单的n = 3,看看就会发现如果用直接映射,得到的映射函数如下
再加上两个映射函数相乘,你会发现计算量还是很大的,但是用核函数就很简单了。
应该注意的是:在SVM之前核函数就已经存在了,只不过在SVM的求解过程中正好碰到了向量内积和非线性的问题,
正好用到了核函数的方法。其实很多地方都能够用到核函数,比如逻辑回归、降维等等。
这里超知乎上的一段:核函数不仅可以建立点和点映射(如SVM) ,还可以建立一个分布和点的映射,通过比较两
组数据映射点的距离,可以判断两组数据是不是同一个分布。参见谷歌 kernel enbedding of distributions。
3、核函数的种类
我们通常使用的核函数有几种(其实核函数是可以构造的):
(1)多项式核,上面的例子就是个简单的多项式核,这个核的映射按道理是能写
出来的,但是没什么必要。映射后的维度为,m为原始维度,这是个排列组合问题就不说了有兴趣自己找找。
(2)高斯核,也叫做径向基函数(Radial Basis Function 简称RBF)
,这个核是大部分比较常用的核,可以将原始空间映射到无限维的空间中。通过调节
就能够调节高斯核,有很大的灵活性。
4、利用核函数分类样本
(1)线性可分时候就是求得w和b,对于新样本带入,&#20540;大于1就是正类,小于等于-1是负类
(2)线性不可分就利用核函数,将内积变为核函数形式就可以了,判断方法还是和上面一样。
核函数的作用就是,在遇到线性不可分的时候要向高维度映射达到线性可分,但是维度很高的时候求解内积就变得非常困难,但是利用核函数就可以在低维度上运算达到高纬度的效果。注意核函数是个很复杂的理论。
本文已收录于以下专栏:
相关文章推荐
二、SVM的求解过程1、对问题的简单求解其实上一章中的结果,已经是一个可求解的问题了,因为现在的目标函数是二次的,约束条件是线性的,所以它是一个凸二次规划问题,只要通过现成的QP包就能解决这个二次规划...
本文开始主要介绍一下SVM的分类原理以及SVM的数学导出和SVM在Python上的实现。借鉴了许多文章,会在后面一一指出,如果有什么不对的希望能指正。
一、 SVM简介
首先看到SV...
四、规则化和不可分处理
我们一直假设数据是可分的,不论是引入核函数前的线性可分SVM,还是利用核函数处理非线性数据,都是在可分的情况下。如果不是因为数据本身的非线性结构而是由噪声数据引起的偏离要怎么...
(转载请注明出处:http://blog.csdn.net/buptgshengod)
1.背景知识
&#160; &#160;
前面我们提到的数据集都是线性可分的,这样我们可以用SMO等方法找到支持向量的集合。然而当我...
前两篇博客涉及到的SVM还只是一个线性分类器,如果在二维情况下遇到如下的情况,线性分类器的效果就不会很好了
这个时候我们就需要一个叫做核函数的东西,简单来说它的最大作用就是把低维数据映射到高维数据,...
SVM引入核函数有两个方面的原因,一是为了更好的拟合数据,另一个重要的原因是实现数据的线性可分。
由于一些数据集在低维空间是线性不可分的,SVM通过引入核函数实现了把特征集从低维空间到高维空间的映射...
SVM(support vector machine)支持向量机:
注意:本文不准备提到数学证明的过程,一是因为有一篇非常好的文章解释的非常好:http://blog.csdn.net/v_july_...
在求取有约束条件的优化问题时,拉格朗日乘子法(Lagrange Multiplier) 和KKT条件是非常重要的两个求取方法,对于等式约束的优化问题,可以应用拉格朗日乘子法去求取最优值;如果含有不等式...
支持向量机通俗导论(理解SVM的三层境界)作者:July、pluskid ;致谢:白石、jerrylead出处:结构之法算法之道blog。前言第一层、了解SVM&#160; 1.0、什么是支持向量机SVM&#160; 1...
一、概念简述
&#160;&#160;&#160;&#160;&#160;&#160; 下图是线性回归的模型函数,目的就是通过一系列的测试数据求出θ的值,来更好地拟合连续的数据。
做法是最小化代价函数J(θ)(这里用的是平方误差),这里的代价函数在台湾的视频...
他的最新文章
讲师:王哲涵
讲师:韦玮
您举报文章:
举报原因:
原文地址:
原因补充:
(最多只允许输入30个字)}

我要回帖

更多关于 python优化核函数 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信