返回信息流同题目。对这个东西不太懂,希望有相关论文的电子版可以发给我不?或者推荐一些书籍~~~万分感谢阿~~~
这是一条镜像帖。来源:北邮人论坛 / ml-dm / #1402同步于 2008/3/20
该镜像源已超过 30 天没有更新,可能在源站已被删除。
ML_DM机器人发帖
毕设作基于lda即线性鉴别的人脸识别,有相关资料和代码的吗~~急
ziyanqingqin
2008/3/20镜像同步15 回复
订阅后,新回复会通过你的通知中心匿名送达。
9 条回复
google deng cai uiuc
大致:两个矩阵Sw和Sb,求矩阵W,使得原来不同类的样本x,经过矩阵向量相乘后的新样本y=Wx能够分开。大致目标就是W使两类样本之间的距离尽可能大。
做人脸用空间的困难在于,人脸的样本少,像orl一个人只有十张吧,而特征空间大,一张图64x64,特征空间64x64>>10,所以Sw和Sb是奇异矩阵,(不准确地说)大致意思就是一个人的人脸的图像可以由你手头有的样本加权相加得到(像计算加权平均分一样)。
1)比如你有10个人的人脸图像,Sb空间的维数是9,也就是你最后将64x64这么大的特征压缩到9,最多只能是9。
2)一般先用PCA降维,再计算LDA。PCA就是计算Sw的特征向量。
3)特征值为0的特征向量所代表的特征有时也起着重要的判别作用。
4)尽量找大的数据库做,不要用小的数据库,这样做没什么意义,而且这些都做烂了。
5)可以拓展到kernel LDA。
6)LDA等价于Sbx=aSwx,Sw、Sb是矩阵,x是向量,a是实数。更一般Sw、Sb用A、B代替,Ax=aBx,表示不限于LDA吧,这样LDA就可以跟很多其他的方法联系起来,PCA、ICA、robust PCA、谱分析(Spectral Regression)。希望这些对了解deng cai的工作,完成你自己的工作有帮助吧。
最简单的版本大致是这样吧,国内就是南京理工的杨静宇老师和他的学生的相关文章。
刚好,接着你的
1)比如你有10个人的人脸图像,Sb空间的维数是9,也就是你最后将64x64这么大的特征压缩到9,最多只能是9。
我再问两个问题。假设每个样本是m维,共有c类
1. 只考虑PCA
那么不管降到几维都是可以的,对么?
2 .考虑PCA+LDA
假设降到了d维,那么一般要求d>=c-1,对么?
倘若d<c-1,只是发挥不出LDA的优势而已(c个类在d维空间中没有很好分开),并不会造成程序死机之类的错误吧?
【 在 cryppie 的大作中提到: 】
: google deng cai uiuc
: 大致:两个矩阵Sw和Sb,求矩阵W,使得原来不同类的样本x,经过矩阵向量相乘后的新样本y=Wx能够分开。大致目标就是W使两类样本之间的距离尽可能大。
: 做人脸用空间的困难在于,人脸的样本少,像orl一个人只有十张吧,而特征空间大,一张图64x64,特征空间64x64>>10,所以Sw和Sb是奇异矩阵,(不准确地说)大致意思就是一个人的人脸的图像可以由你手头有的样本加权相加得到(像计算加权平均分一样)。
: ...................
如果特征值为零,特征向量也没有用了。
降到多少维没有关系,关键是你在学习的时候,算法可能会崩溃,你要引入规则因子然后用ML学习或者用MAP学习。
另外,PCA是要求主元,PCA的维数的选取也是有一定考虑的。
【 在 hmily821224 的大作中提到: 】
: 刚好,接着你的
: 1)比如你有10个人的人脸图像,Sb空间的维数是9,也就是你最后将64x64这么大的特征压缩到9,最多只能是9。
: 我再问两个问题。假设每个样本是m维,共有c类
: ...................
我想问一下
如果d<c-1,还有子空间吗?还需要降维吗?
【 在 hmily821224 的大作中提到: 】
: 刚好,接着你的
: 1)比如你有10个人的人脸图像,Sb空间的维数是9,也就是你最后将64x64这么大的特征压缩到9,最多只能是9。
: 我再问两个问题。假设每个样本是m维,共有c类
: ...................
这也是我一直很迷惑的地方。从数学上来说,这也可以呀。
d = 2, c = 4 即平面上的四类问题
我强行选择往Sb某个零特征值的一维特征向量上投影。
那么你所说的崩溃是哪种意义上的崩溃呢?程序死机吗(没道理呀...)?
【 在 cryppie 的大作中提到: 】
: 我想问一下
: 如果d<c-1,还有子空间吗?还需要降维吗?
这个时候Sb很难有零特征值吧。除非四个重叠,这个时候Sb=0,随便选一个方向都可以投影。
如果不是这种情况,rank(Sb)<=2,那么你肯定可以找到一个方向,投影下来满足LDA的目标,但是存在不可分的现象。
你说的这个让我想起了Alex Martinze?在PAMI‘05上的文章,他给出了一个3类2维的情况,这种情况下,Sw和Sb的对应的特征值的比值可以作为判定空间法有效或失效的依据,讨论了LDA在什么情况下没有价值。有兴趣可以看一下。
【 在 hmily821224 的大作中提到: 】
: 这也是我一直很迷惑的地方。从数学上来说,这也可以呀。
: d = 2, c = 4 即平面上的四类问题
: 我强行选择往Sb某个零特征值的一维特征向量上投影。
: ...................
所以你说的“算法崩溃”是指出现了“不可分的现象”,不是指程序死机?
【 在 cryppie 的大作中提到: 】
: 这个时候Sb很难有零特征值吧。除非四个重叠,这个时候Sb=0,随便选一个方向都可以投影。
: 如果不是这种情况,rank(Sb)<=2,那么你肯定可以找到一个方向,投影下来满足LDA的目标,但是存在不可分的现象。
: 你说的这个让我想起了Alex Martinze?在PAMI‘05上的文章,他给出了一个3类2维的情况,这种情况下,Sw和Sb的对应的特征值的比值可以作为判定空间法有效或失效的依据,讨论了LDA在什么情况下没有价值。有兴趣可以看一下。
是因为奇异点。
看你用什么分类器了。
我说的是有可能。
【 在 hmily821224 的大作中提到: 】
: 所以你说的“算法崩溃”是指出现了“不可分的现象”,不是指程序死机?