當(dāng)前位置：首頁 > 人工智能 > 循环神经网络 >内容正文

循环神经网络

主成分分析（PCA）及其可视化——matlab

發(fā)布時(shí)間：2025/3/15 循环神经网络 26 豆豆

生活随笔收集整理的這篇文章主要介紹了主成分分析（PCA）及其可视化——matlab 小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.

本文所用為matlab2016a?

matlab安裝：待更新

matlab基礎(chǔ)知識(shí)：待更新

如果本文內(nèi)容已學(xué)會(huì)，可以看看python的哦

主成分分析（PCA）及其可視化——python_菜菜笨小孩的博客-CSDN博客

文章目錄

一、主成分分析的原理

二、主成分分析的基本思想

三、主成分分析步驟

1.主成分分析的步驟：

2.部分說明

（1）球形檢驗(yàn)（Bartlett)

（2）KMO（Kaiser-Meyer-Olkin)統(tǒng)計(jì)量

（3）主成分分析的邏輯框圖?

四、編程實(shí)現(xiàn)思路

1.主成分向量投射圖

2.算法步驟

1.數(shù)據(jù)標(biāo)準(zhǔn)化

2.數(shù)據(jù)為標(biāo)準(zhǔn)化

五、matlab主成分代碼實(shí)現(xiàn)

1.讀取數(shù)據(jù)

2.得到相關(guān)矩陣

（1）數(shù)據(jù)標(biāo)準(zhǔn)化做法

（2）數(shù)據(jù)未標(biāo)準(zhǔn)化做法

3.求相關(guān)矩陣的特征值和相對(duì)應(yīng)的特征向量（在此以協(xié)方差陣為例）

4.畫散點(diǎn)圖和折線圖

5.對(duì)特征值排序

6.求每個(gè)特征值的貢獻(xiàn)度

7.累計(jì)貢獻(xiàn)度??

8.選出主成分，并得出相對(duì)應(yīng)的矩陣

9.畫色塊矩陣圖

完整代碼：

總結(jié)及所遇到的問題解決辦法：

一、主成分分析的原理

????????主成分分析是利用降維的思想，在損失很少信息的前提下把多個(gè)指標(biāo)轉(zhuǎn)化為幾個(gè)綜合指標(biāo)的多元統(tǒng)計(jì)方法。通常把轉(zhuǎn)化生成的綜合指標(biāo)稱之為主成分，其中每個(gè)主成分都是原始變量的線性組合，且各個(gè)主成分之間互不相關(guān)，這就使得主成分比原始變量具有某些更優(yōu)越的性能。這樣在研究復(fù)雜問題時(shí)就可以只考慮少數(shù)幾個(gè)主成分而不至于損失太多信息，從而更容易抓住主要矛盾，揭示事物內(nèi)部變量之間的規(guī)律性，同時(shí)使問題得到簡(jiǎn)化，提高分析效率。

?????????主成分分析正是研究如何通過原來變量的少數(shù)幾個(gè)線性組合來解釋原來變量絕大多數(shù)信息的一種多元統(tǒng)計(jì)方法。

二、主成分分析的基本思想

????????研究某一問題涉及的眾多變量之間有一定的相關(guān)性，就必然存在著起支配作用的共同因素，并根據(jù)這一點(diǎn)，通過對(duì)原始變量相關(guān)矩陣或協(xié)方差矩陣內(nèi)部結(jié)構(gòu)關(guān)系的研究，利用原始變量的線性組合形成幾個(gè)綜合指標(biāo)（主成分），在保留原始變量主要信息的前提下起到降維與簡(jiǎn)化問題的作用，使得在研究復(fù)雜問題時(shí)更容易抓住主要矛盾。????????

利用主成分分析得到的主成分與原始變量之間有如下基本關(guān)系：

????????1.每一個(gè)主成分都是各原始變量的線性組合

????????2.主成分的數(shù)目大大少于原始變量的數(shù)目

????????3.主成分保留了原始變量絕大多數(shù)信息

????????4.各主成分之間互不相關(guān)

三、主成分分析步驟

1.主成分分析的步驟：

????????1.根據(jù)研究問題選取初始分析變量；

????????2.根據(jù)初始變量特性判斷由協(xié)方差陣求主成分還是由相關(guān)陣求主成分（數(shù)據(jù)標(biāo)準(zhǔn)化的話需要用系數(shù)相關(guān)矩陣，數(shù)據(jù)未標(biāo)準(zhǔn)化則用協(xié)方差陣）；

????????3.求協(xié)差陣或相關(guān)陣的特征根與相應(yīng)標(biāo)準(zhǔn)特征向量；

????????4.判斷是否存在明顯的多重共線性，若存在，則回到第一步；

????????5.主成分分析的適合性檢驗(yàn)

????????6.得到主成分的表達(dá)式并確定主成分個(gè)數(shù)，選取主成分；

????????7.結(jié)合主成分對(duì)研究問題進(jìn)行分析并深入研究。

2.部分說明

?????????一組數(shù)據(jù)是否可以用主成分分析，必須做適合性檢驗(yàn)。可以用球形檢驗(yàn)和KMO統(tǒng)計(jì)量檢驗(yàn)。

（1）球形檢驗(yàn)（Bartlett)

????????球形檢驗(yàn)的假設(shè)：

?????????????????H0：相關(guān)系數(shù)矩陣為單位陣（即變量不相關(guān)）

????????????????H1：相關(guān)系數(shù)矩陣不是單位陣（即變量間有相關(guān)關(guān)系）

（2）KMO（Kaiser-Meyer-Olkin)統(tǒng)計(jì)量

????????KMO統(tǒng)計(jì)量比較樣本相關(guān)系數(shù)與樣本偏相關(guān)系數(shù)，它用于檢驗(yàn)樣本是否適于作主成分分析。

????????KMO的值在0,1之間，該值越大，則樣本數(shù)據(jù)越適合作主成分分析和因子分析。一般要求該值大于0.5，方可作主成分分析或者相關(guān)分析。

????????Kaiser在1974年給出了經(jīng)驗(yàn)原則：

????????????????0.9以上 ? ? ? 適合性很好

????????????????0.8~0.9 ? ? ? ?適合性良好

????????????????0.7~0.8 ? ? ? ?適合性中等

????????????????0.6~0.7 ? ? ? ?適合性一般

????????????????0.5~0.6 ? ? ? ?適合性不好

????????????????0.5以下 ? ? ? 不能接受的????????

（3）主成分分析的邏輯框圖?

四、編程實(shí)現(xiàn)思路

1.主成分向量投射圖

2.算法步驟

1.數(shù)據(jù)標(biāo)準(zhǔn)化

1.標(biāo)準(zhǔn)化的數(shù)據(jù)均值為0，標(biāo)準(zhǔn)差為1；就是原數(shù)據(jù)減去均值，再除以標(biāo)準(zhǔn)差（無偏估計(jì)）

?2.求相關(guān)系數(shù)矩陣

3、求協(xié)方差矩陣C的特征值和相對(duì)應(yīng)的特征向量

u為C的特征向量，lamda為u的特征值

4、將特征向量按對(duì)應(yīng)特征值大小從上到下按行排列成矩陣，取前k列組成矩陣P

5、Y=PX即為降維到k維后的數(shù)據(jù)

2.數(shù)據(jù)為標(biāo)準(zhǔn)化

1、對(duì)所有指標(biāo)進(jìn)行中心化：去均值

2、求協(xié)方差矩陣C

其中μ為指標(biāo)的均值

3、求協(xié)方差矩陣C的特征值和相對(duì)應(yīng)的特征向量

u為C的特征向量，lamda為u的特征值

4、將特征向量按對(duì)應(yīng)特征值大小從上到下按行排列成矩陣，取前k列組成矩陣P

5、Y=PX即為降維到k維后的數(shù)據(jù)

五、matlab主成分代碼實(shí)現(xiàn)

1.讀取數(shù)據(jù)

此為讀取csv數(shù)據(jù)，括號(hào)內(nèi)1，0；表示從第一行第一列讀取，matlab默認(rèn)以0行，0列開始讀取

X= csvread('文件路徑',1,0); %讀取數(shù)據(jù)文件，第一行不讀取

在此舉例一個(gè)數(shù)據(jù) data 下面都是用此數(shù)據(jù)進(jìn)行做：

data = [1,-0.2,0.3,0.8,-0.5-0.2,1,0.6,-0.7,0.20.3,0.6,1,0.5,-0.30.8,-0.7,0.5,1,0.7-0.5,0.2,-0.3,0.7,1]

運(yùn)行結(jié)果：

2.得到相關(guān)矩陣

（1）數(shù)據(jù)標(biāo)準(zhǔn)化做法

? ? ? ? 進(jìn)行標(biāo)準(zhǔn)化：

z =zscore(data)

運(yùn)行結(jié)果：

?計(jì)算相關(guān)系數(shù)矩陣：

C = corr(z,'type','Pearson')

?運(yùn)行結(jié)果：

（2）數(shù)據(jù)未標(biāo)準(zhǔn)化做法

計(jì)算均值：

mapping.mean = mean(data, 1) %計(jì)算均值

運(yùn)行結(jié)果：

進(jìn)行中心化不會(huì)改變協(xié)方差陣的值，中心化不是標(biāo)準(zhǔn)化哦！！：

data = data - repmat(mapping.mean, [size(data, 1) 1])%去均值

?運(yùn)行結(jié)果：

?計(jì)算協(xié)方差陣：

C = cov(data) %協(xié)方差矩陣

運(yùn)行結(jié)果：

3.求相關(guān)矩陣的特征值和相對(duì)應(yīng)的特征向量（在此以協(xié)方差陣為例）

[M, lambda] = eig(C) %求C矩陣特征向量及特征值

運(yùn)行結(jié)果：

取出協(xié)方差陣所求的對(duì)角線上的特征值，這只是其中一種做法，下面還有第二種

y = diag(lambda) %取出特征值矩陣中的特征值

運(yùn)行結(jié)果：

?1時(shí)計(jì)算得到行數(shù)，2時(shí)計(jì)算得到列數(shù)，一個(gè)補(bǔ)充小知識(shí)點(diǎn)，嘻嘻嘻！！！

size(data,2) %讀取數(shù)據(jù)文件中的列數(shù)

?運(yùn)行結(jié)果：

4.畫散點(diǎn)圖和折線圖

這里求得是x軸的值，上面取出的特征值即為y軸的值！！！

x = [size(data,2):-1:1] %表示變量個(gè)數(shù)并倒寫出它們作為x軸如 4，3，2，1

運(yùn)行結(jié)果：

?先畫的散點(diǎn)圖，x，y的值上面介紹了哦！！！

plot(x,y,'o') %繪制散點(diǎn)圖

運(yùn)行結(jié)果：

顯示上圖中的格格線為 grid on ;關(guān)閉為 grid off

grid on; %顯示格線

運(yùn)行結(jié)果：

?因?yàn)槲蚁朐谕粡垐D上畫散點(diǎn)圖和折線圖，所以調(diào)用 hold on

hold on; %不換畫布繼續(xù)在這張畫布上繪制

?給坐標(biāo)軸取名，你隨意，哈哈哈哈！！！

xlabel('x'); %x軸名稱 ylabel('y'); %y軸名稱

運(yùn)行結(jié)果：

?繪制折線圖，顏色為紅（’r‘），'lineWidth'：線粗，這些基礎(chǔ)知識(shí)，正在寫，后續(xù)發(fā)布

plot(x,y,'-','Color','r','lineWidth',1) %繪制折線圖

運(yùn)行結(jié)果：

5.對(duì)特征值排序

在此求出的 lambda 即為上方的 x，ind 即為上方的 y；descend 為降序，默認(rèn)升序

[lambda, ind] = sort(diag(lambda), 'descend') %排序

運(yùn)行結(jié)果：

6.求每個(gè)特征值的貢獻(xiàn)度

即為每個(gè)特征值除以所有特征值的和，即占比

lambda=lambda./sum(lambda) %特征值的貢獻(xiàn)度

?運(yùn)行結(jié)果：

7.累計(jì)貢獻(xiàn)度??

計(jì)算累計(jì)貢獻(xiàn)度

lambda=cumsum(lambda) %累計(jì)貢獻(xiàn)度

運(yùn)行結(jié)果：

選出累計(jì)貢獻(xiàn)度小于 85%之前的指標(biāo)

為什么要選>85%呢？是為了方便后面的索引

k=find(lambda>0.85) %選出貢獻(xiàn)率達(dá)到85的指標(biāo)前K個(gè)

?運(yùn)行結(jié)果：

?讓我們看一下k(1)等于多少？？？

k(1)

運(yùn)行結(jié)果：

那 1:k(1) 呢，又是多少？？？

1:k(1)

?運(yùn)行結(jié)果：

但我們看上面累計(jì)貢獻(xiàn)度時(shí)符合條件<85%的只有一個(gè)，所以我們下方選主成分應(yīng)該有有變化?

8.選出主成分，并得出相對(duì)應(yīng)的矩陣

選出前K列的特征向量矩陣

M = M(:,ind(1:k(1)-1) %%取前k列 M = (-1)*M

運(yùn)行結(jié)果：

?得到降維后的X

mappedX = data * M %降維后的X

運(yùn)行結(jié)果：

9.畫色塊矩陣圖

通過此可以再次確定，下面畫圖需要設(shè)置的x，y的行數(shù)

mapping.M = M %映射的基

運(yùn)行結(jié)果：

?設(shè)置色塊矩陣圖x，y軸所標(biāo)注的名稱

XVarNames={'A'}; %個(gè)數(shù)等于上面基的列數(shù) YVarNames={'A','B','C','D','E'}; %個(gè)數(shù)等于上面基的行數(shù)

數(shù)值矩陣圖代碼：

matrixplot(M,'FillStyle','nofill','XVarNames',XVarNames,'YVarNames',YVarNames)

運(yùn)行結(jié)果：

%色塊顏色表示 matrixplot(M,'XVarNames',XVarNames,'YVarNames',YVarNames,'DisplayOpt','off','FigSize','Auto','ColorBar','on');

運(yùn)行結(jié)果：

完整代碼：

如不想每一步都有結(jié)果出現(xiàn)，請(qǐng)?jiān)诿啃写a最后加上英文版；

data = [1,-0.2,0.3,0.8,-0.5-0.2,1,0.6,-0.7,0.20.3,0.6,1,0.5,-0.30.8,-0.7,0.5,1,0.7-0.5,0.2,-0.3,0.7,1]% z =zscore(data) % C = corr(z,'type','Pearson')mapping.mean = mean(data, 1) %計(jì)算均值 data = data - repmat(mapping.mean, [size(data, 1) 1])%去均值 C = cov(data) %協(xié)方差矩陣 [M, lambda] = eig(C) %求C矩陣特征向量及特征值y = diag(lambda) %取出特征值矩陣中的特征值 size(data,2) %讀取數(shù)據(jù)文件中的列數(shù) x = [size(data,2):-1:1] %表示變量個(gè)數(shù)并倒寫出它們作為x軸如 4，3，2，1 plot(x,y,'o') %繪制散點(diǎn)圖 grid on %顯示格線 hold on; %不換畫布繼續(xù)在這張畫布上繪制 xlabel('x'); %x軸名稱 ylabel('y'); %y軸名稱 plot(x,y,'-','Color','r','lineWidth',1); %繪制折線圖[lambda, ind] = sort(diag(lambda), 'descend') %排序 lambda=lambda./sum(lambda) lambda=cumsum(lambda)k=find(lambda>0.85) %選出貢獻(xiàn)率達(dá)到95的指標(biāo)前K個(gè) M = M(:,ind(1:k(1)-1) %%取前k列 M = (-1)*M mappedX = data * M %降維后的Xmapping.M = M %映射的基 XVarNames={'A'}; YVarNames={'A','B','C','D','E'}; matrixplot(M,'FillStyle','nofill','XVarNames',XVarNames,'YVarNames',YVarNames); matrixplot(M,'XVarNames',XVarNames,'YVarNames',YVarNames,'DisplayOpt','off','FigSize','Auto','ColorBar','on');

總結(jié)及所遇到的問題解決辦法：

因?yàn)槲易罱趯W(xué)主成分，就整理了一些matlab和python的主成分代碼，今天先發(fā)布matlab的，python的稍后發(fā)布（其實(shí)還沒開始，最近要考期末了，很難受！！！）

在此學(xué)習(xí)中，遇到最頭疼的的問題就行，?matrixplot 無法應(yīng)用，需要自己寫入這個(gè)庫才行，最終經(jīng)過不懈努力解決了；還有在寫色塊矩陣圖之前，我先寫的熱力圖，研究半天沒有學(xué)會(huì)，它那個(gè)顯示的色塊一點(diǎn)也不好看，于是才有了matrixplot，源碼我先放文末，具體的解釋，我也會(huì)稍后發(fā)布，非常感謝大家的支持，但如果我的文章有錯(cuò)誤，請(qǐng)大家多多指出！！謝謝大家

matrixplot源碼：

總結(jié)

以上是生活随笔為你收集整理的主成分分析（PCA）及其可视化——matlab的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。

上一篇： php post 丢失,php post
下一篇： quartus管脚分配后需要保存吗_电脑