前言：當描述變量間的相關關系時，大多數人都知道用“相關系數”來進行表示，進而直接聯想到了以下表達式：$$\rho =\frac{\sum (y_i?\bar{y})(x_i?\bar{x})}{\sqrt{\sum (y_i?\bar{y}{)}^2\sum (x_i?\bar{x}{)}^2}}$$但實際上該相關系數（更準確地說是$Pearson$相關系數）僅僅是描述兩數值型變量之間相關關系的一種方式，不能適用于全部場景。

目錄

• • 一、名義變量相關系數
  • 二、順序變量相關系數
  • • 2.1 兩個順序變量相關系數度量
    • • 2.1.1 $kendal{l}^{\prime }s\tau$相關系數（${\tau }_b$和${\tau }_c$相關系數）
      • 2.1.2 $Goodman?Kruska{l}^{\prime }s\gamma$相關系數
    • 2.2 多個順序變量相關系數度量
    • 2.3 一致性的度量
    • • 2.3.1 兩個順序變量一致性度量：$Kappa$一致性系數
      • 2.3.2 多個順序變量一致性度量：$Kendal{l}^{\prime }sW$系數
  • 三、數值型變量相關系數
  • • 3.1 兩個數值型變量相關系數
    • 3.2 多個數值型變量相關系數
    • 3.3 一個數值型變量與多個數值型變量間的相關系數
    • 3.4 多個數值型變量與多個數值型變量間的相關系數

一、名義變量相關系數

由于分類型變量的取值通常是不能歸于某一類別的非數字型數據，因此需要對其進行整理，一般使用列聯表的方式展示交叉分類的頻數統計結果：

ABC$?$

X	$n_{11}$	$n_{12}$	$n_{13}$	$?$
Y	$n_{21}$	$n_{22}$	$n_{23}$	$?$

可以用以下統計量描述行變量和列變量之間的相關性：

$?$相關系數：$$?=\sqrt{\frac{{\chi }^2}{n}}$$其中${\chi }^2$是用于列聯表獨立性檢驗的卡方統計量。$?$相關系數主要適用于$2\times 2$列聯表的情形，此時其上限為1，且可以改寫為：$$?=\frac{n_{11}{n}_{22}?n_{21}{n}_{12}}{\sqrt{(n_{11}+n_{12})(n_{21}+n_{22})(n_{11}+n_{21})(n_{12}+n_{22})}}$$從其形式可以看到，主要是利用列聯表對角線元素的差值來反映不一致信息。
當列聯表的維數大于$2\times 2$時， $?$相關系數的上限會超過1，此時用于描述相關關系就不合適了。

$C$列聯系數：$$C=\sqrt{\frac{{\chi }^2}{{\chi }^2+n}}$$列聯系數可以用于維數超過$2\times 2$的列聯表，但其上限值總小于1，難以得到較為統一的評判標準，可以用于相同維數的不同列聯表間相關系數的比較。

$Crame{r}^{\prime }sV$相關系數：$$V=\sqrt{\frac{{\chi }^2}{n?\min [(r?1),(c?1)]}}$$$V$相關系數的取值在$[0,1]$之間，一般使用較多。

二、順序變量相關系數

順序變量和名義變量同屬于分類變量，順序變量的取值是只能歸于某一有序類別的非數字型數據，因此順序變量的整理方式通常也是列聯表，只是對列聯表進行分析時需要考慮各類別之間的順序關系，不能只考慮列聯表的結構關系。常見的分析有$Riddit$分析等。

2.1 兩個順序變量相關系數度量

2.1.1 $kendal{l}^{\prime }s\tau$相關系數（${\tau }_b$和${\tau }_c$相關系數）

先展示兩個順序(數值)變量觀測數據形式：

變量X變量Y

樣本1	$a$	$x$
樣本2	$b$	$y$
$?$

當變量是數值型變量時，可以使用$kendal{l}^{\prime }s{\tau }_a$相關系數度量相關程度：
$$\tau =\frac{N_c?N_d}{n(n?1)/2}$$其中$N_c$表示協同數對的數目，$N_d$表示不協同數對的數目。
當$(x_j?x_i)(y_j?y_i)>0$時，就稱兩個數對$(x_i,y_i)$和$(x_j,y_j)$之間是協同的，即變化方向是一致的。反之，當$(x_j?x_i)(y_j?y_i)<0$時，就稱數對$(x_i,y_i)$和$(x_j,y_j)$之間是不協同的，即變化方向是相反的。
$\tau$相關系數實際上是對概率$P\{(x_j?x_i)(y_j?y_i)>0\}?P\{(x_j?x_i)(y_j?y_i)<0\}$的估計。
此外對于數值型變量還可以使用$Spearman$秩相關系數、$Pearson$相關系數進行度量，在后面會再提。

當變量是順序型變量時，往往存在較多打結現象，可以使用經過修正后的$kendal{l}^{\prime }s{\tau }_b$相關系數進行度量：$${\tau }_b=\frac{n_c?n_d}{\sqrt{[n(n?1)/2?{\sum }_i{u}_i(u_i?1)/2][n(n?1)/2?{\sum }_j{v}_j(v_j?1)/2]}}$$其中$u_i$是變量$X$中第$i$組打結個數，$v_j$是變量$Y$中第$j$組打結個數。

當變量是順序型變量，但兩個變量的類別數目相差較大時，使用$kendal{l}^{\prime }s{\tau }_c$相關系數度量相關程度。$${\tau }_c=\frac{2q(n_c?n_d)}{n^2(q?1)}$$其中$q=\min (r,c)$.

2.1.2 $Goodman?Kruska{l}^{\prime }s\gamma$相關系數

在2.1.1節中已經提到，對于順序型變量，若利用$Spearman$秩相關系數評價相關性，對樣本觀測值評秩后會出現較多打結現象，而如果利用$kendal{l}^{\prime }s\tau$相關系數其實有時也會出現這種情況，此時還可以使用$Goodman?Kruska{l}^{\prime }s\gamma$相關系數。

---

用列聯表對順序變量觀測數據進行整理：

$X_1$$X_2$$?$$X_c$

$Y_1$	$n_{11}$	$n_{12}$	$n_{13}$	$?$
$Y_2$	$n_{21}$	$n_{22}$	$n_{23}$	$?$

$Goodman?Kruska{l}^{\prime }s\gamma$相關系數的公式如下：$$G=\frac{P?Q}{P+Q}=\frac{n_c?n_d}{n_c+n_d}$$
其中$n_c,n_d$為協同數對和不協同數對的數目，$$n_c=\sum _{i,j}{n}_{ij}\sum _{i^{\prime }>i}\sum _{j^{\prime }>j}{n}_{i^{\prime }{j}^{\prime }}$$ $$n_d=\sum _{i,j}{n}_{ij}\sum _{i^{\prime }>i}\sum _{j^{\prime }<j}{n}_{i^{\prime }{j}^{\prime }}$$
此外還可以給出$G$相關系數的漸近方差計算公式，在這里不給出了。

2.2 多個順序變量相關系數度量

展示多個順序變量：

變量A變量B變量C

樣本1	$a$	$x$	$u$
樣本2	$b$	$y$	$v$
$?$

探究的問題一般是$k$個順序變量（或數值變量）之間是否存在相關性
一般通過計算$Kendal{l}^{\prime }sW$相關系數進行檢驗，步驟如下：

對每個變量的觀測值進行評秩：$(R_{1i},R_{2i},?,R_{ni})$

計算每個樣本的秩和：$R_{j?}={\sum }_{i=1}^k{R}_{jk}$，以及每個樣品的平均秩和$\bar{R}=\frac{n(n+1)}{2}?k/n=\frac{(n+1)k}{2}$

計算樣品秩和的離差平方和，并與總離差平方和進行比較，構造$Kendal{l}^{\prime }sW$相關系數：$$W=\frac{SSR}{SST}=\frac{{\sum }_{i=1}^n(R_{i?}?\bar{R}{)}^2}{\sum \sum (R_{ij}?\overline{\stackrel{ˉ}{R}}{)}^2}=\frac{12?SSR}{k^2(n^3?n)}$$

當樣本量較大時，根據大樣本性質，有$k(n?1)W=\frac{12?SSR}{kn(n+1)}\to {\chi }^2(n?1)$

根據給定的顯著性水平，可以對$W$相關系數進行檢驗。

說明：

該方法可以用于多個數值型變量間相關關系的度量。

該方法可用于評價多個評估方案之間是否具有一致性。

2.3 一致性的度量

一致性的概念和相關性有所不同，一致性通常是指在兩種不同的評價標準下，指標變量的結果是否具有相似的水平或趨勢，相關性則一般指兩個指標之間的相關程度。

2.3.1 兩個順序變量一致性度量：$Kappa$一致性系數

用兩種評估方案（A和B）對樣本的同一指標進行評價：

評估方案A評估方案B

樣本1	$a$	$a$
樣本2	$b$	$c$
$?$

將結果整理成列聯表形式：

$X_1$$X_2$$?$$X_c$

$X_1$	$n_{11}$	$n_{12}$	$n_{13}$	$?$
$X_2$	$n_{21}$	$n_{22}$	$n_{23}$	$?$
$?$
$X_c$	$n_{c1}$	$n_{c2}$	$n_{c3}$	$?$

用對角線元素$n_{ii}$的相對頻數反映兩種方案間的一致性，得到$Kappa$一致性系數：$$K=\frac{P_0?P_e}{1?P_e}$$其中$P_0={\sum }_{i=1}^r{p}_{ii}$表示列聯表的實際一致性比例，$P_e={\sum }_i{p}_{i?}{p}_{?i}$表示獨立性假定下的一致性。$K$的評價標準如下：
此外還可以給出$K$漸近方差的表達式，在這里不給出。

2.3.2 多個順序變量一致性度量：$Kendal{l}^{\prime }sW$系數

在2.2節中已經提到，$Kendal{l}^{\prime }sW$系數也可以用于評價多個評估方案間的一致性，在這里不再重復敘述。

三、數值型變量相關系數

3.1 兩個數值型變量相關系數

到這一節就是非常常見的三種相關系數度量方法了：

• $Pearson$相關系數：$$\rho =\frac{\sum (y_i?\bar{y})(x_i?\bar{x})}{\sqrt{\sum (y_i?\bar{y}{)}^2\sum (x_i?\bar{x}{)}^2}}$$$Pearson$相關系數是應用最為廣泛的度量方法，但注意它的使用需要滿足一定的條件：（1）兩變量$X,Y$滿足聯合正態分布；(2)兩變量之間是線性相關關系；（3）樣本中不存在異常值（否則會扭曲結果）。用一張圖就可以清楚說明不滿足這些假定時會產生什么樣的結果：
  
• $Spearman$秩相關系數：$$r_s=\frac{\sum (R_i?\bar{R})(Q_i?\bar{Q})}{\sqrt{\sum (R_i?\bar{R}{)}^2\sum (Q_i?\bar{Q}{)}^2}}=1?6\frac{\sum d_i^2}{n(n?1)(n+1)}$$主要反映秩之間的一致性，可以度量變量間的廣義上的相關性。
• $Kendal{l}^{\prime }s\tau$相關系數：從數據對變化協同的角度出發計算相關系數。

3.2 多個數值型變量相關系數

仍然可以使用$Kendal{l}^{\prime }sW$系數進行描述。

3.3 一個數值型變量與多個數值型變量間的相關系數

實際上就是指復相關系數，注意這里其實已經區分自變量和因變量的關系了，而之前的相關關系中變量都是平等的。
變量$Y$與$X=(X_1,X_2,?,X_p{)}^{\prime }$復相關系數$$R=\sqrt{\frac{{\Sigma }_{yx}{\Sigma }_{XX}^{?1}{\Sigma }_{Xy}}{{\sigma }_{yy}}}$$
然而注意這里的相關系數仍然是線性相關系數

3.4 多個數值型變量與多個數值型變量間的相關系數

此時一般需要用到典型相關分析的方法。
典型相關分析是多元統計中的一種降維方法，它利用主成分分析的思想，分別提取$X=(X_1,X_2,?,X_m{)}^{\prime }$與$Y=(Y_1,Y_2,?,Y_n{)}^{\prime }$之間的主成分，使得不同組主成分之間的相關性達到最大，而相同組的主成分之間互不相關，即包含的信息不重疊。

典型相關分析的主要步驟如下：

根據所要研究的問題選擇兩組指標：$X=(X_1,X_2,?,X_m{)}^{\prime }$與$Y=(Y_1,Y_2,?,Y_n{)}^{\prime }$

設計典型相關分析：收集得到足夠多的樣本數據，并對變量進行標準化處理

檢驗關于典型相關分析的基本假定：即變量之間滿足線性性、正態性以及不存在多重共線性

推導典型函數，評價擬合情況：根據主成分分析的思想提取兩組變量的典型變量，并計算典型相關系數。然后對典型相關系數進行顯著性檢驗，并進行冗余分析。

解釋典型變量：（1）利用典型權重解釋：典型權重即典型變量的系數，較大的典型權重表明原始變量對該典型變量的貢獻較大；（2）利用典型載荷解釋：典型載荷即為原始變量與典型變量間協方差矩陣上的元素，可以反映原始變量與典型變量之間的相關性。

---

以上便是個人總結的變量間相關關系的度量方法，由于能力有限，可能有所遺漏或存在錯誤，歡迎批評和指正。

總結

以上是生活随笔為你收集整理的变量关系的描述方法的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。