机器学习之数学基础(二)~数组、向量、矩阵、向量空间、二维矩阵
1. 概述
在學(xué)習(xí)機(jī)器學(xué)習(xí)(machine learning)或模式識(shí)別(pattern recognition)過(guò)程中,我經(jīng)常會(huì)困惑于向量、數(shù)組和矩陣這三種數(shù)據(jù)結(jié)構(gòu),而在學(xué)習(xí)張學(xué)工教授《模式識(shí)別》一書(shū)時(shí),我又碰到了二維矩陣這個(gè)對(duì)我很模糊的概念,一生氣就自己總結(jié)一個(gè)吧。
本文如有不足不對(duì)之處,歡迎指正。
2. 數(shù)組、向量、矩陣和向量空間
2.1 ?數(shù)組
[轉(zhuǎn)載自:https://blog.csdn.net/qq_41800366/article/details/86605575]
概念:所謂數(shù)組,是有序的元素序列。
這里的概念就沒(méi)有涉及到空間了,我們通常稱(chēng)的n維數(shù)組,這里的維度指的不是空間的維度,而是數(shù)據(jù)所構(gòu)成的維度;
下面進(jìn)行舉例說(shuō)明,
一維數(shù)組
[1, 2, 3, 4]
這里的數(shù)據(jù)的維度就只有一維,也就是深度為1,怎么理解呢,比如你要取2,你要怎么做呢,只需要進(jìn)入第一層,這時(shí)候你會(huì)找到1,2,3,4這四個(gè)元素,直接就能找到2這個(gè)元素。
二維數(shù)組
[[1, 2],[3, 4]]
這里的數(shù)據(jù)的維度就就有二維,也就是深度為2,怎么理解呢,比如你要取2,你要怎么做呢,首先你要進(jìn)入進(jìn)入第一層,這時(shí)候你找到的是[1, 2] 和 [3, 4],然后你還得繼續(xù)往下找,再進(jìn)入一層,你會(huì)找到 1,2,3,4這四個(gè)元素,然后找到2這個(gè)元素,也就是你進(jìn)入了兩層才找到元素,所以深度為2,維度為二維。
三維數(shù)組
[[[1, 2], [3, 4]], [[5, 6], [7, 8]]]
Note: 我個(gè)人認(rèn)為數(shù)組最大的用處是在python等編程語(yǔ)言中實(shí)現(xiàn)向量、矩陣等數(shù)據(jù)結(jié)構(gòu)!
這里的數(shù)據(jù)的維度就就有三維,也就是深度為3,怎么理解呢,比如你要取2,你要怎么做呢,首先你要進(jìn)入進(jìn)入第一層,這時(shí)候你找到的是[[1, 2], [3, 4]] 、 [[5, 6], [7, 8]] ,然后你還得繼續(xù)往下找,再進(jìn)入一層,你會(huì)找到 [1, 2]、[3, 4]、[5, 6]、 [7, 8] ,然后你還得繼續(xù)往下找,再進(jìn)入一層,1、2、3、4、5、6、7、8這8個(gè)元素,然后找到2這個(gè)元素,也就是你進(jìn)入了三層才找到元素,所以深度為3,維度為三維。
2.2 n維向量
概念:n個(gè)有次序的數(shù), , ····,所組成的數(shù)組稱(chēng)為n維向量,這n個(gè)數(shù)稱(chēng)為該向量的n個(gè)分量,第i個(gè)數(shù)稱(chēng)為第i個(gè)分量。(同濟(jì)大學(xué)線性代數(shù)第五版-4.1)
n維向量可寫(xiě)成一行,也可寫(xiě)成一列,分別稱(chēng)為行向量和列向量,也就是行矩陣和列矩陣,并規(guī)定行向量和列向量都按矩陣的運(yùn)算規(guī)則進(jìn)行運(yùn)算。?因此,n維列向量
與n維行向量
Note: 這個(gè)解釋其實(shí)是說(shuō)在線性代數(shù)中,向量和矩陣其實(shí)是一回事。不同的是矩陣論階,向量論維。
在解析幾何中,我們把“既有大小又有方向的量”叫做向量,并把可隨意平行移動(dòng)的有向線段作為向量的幾何形象。
在引進(jìn)坐標(biāo)系以后,這種向量就有了坐標(biāo)表示式— — 三個(gè)有次序的實(shí)數(shù),也就是本書(shū)中的3維向量。因此,當(dāng) n ≤ 3 時(shí),n維向量可以把有向線段作為幾何形象,但當(dāng)n>3 時(shí),n 維向量就不再有這種幾何形象,只是沿用一些幾何術(shù)語(yǔ)罷了。
2.3?矩陣
在同濟(jì)大學(xué)線性代數(shù)第六版中,矩陣定義如下:由m×n 個(gè)數(shù)aij (i= 1,2,…,m;j= 1,2,…,n)排成的m 行n 列的數(shù)表
稱(chēng)為m 行n 列矩陣,簡(jiǎn)稱(chēng)m×n 矩。
矩陣的列向量組和行向量組都是只含有限個(gè)向量的向量組;反之,一個(gè)含有限個(gè)向量的向量組總可以構(gòu)成一個(gè)矩陣。因此可知向量可以組成矩陣,矩陣是包含向量的。
?
2.4?向量空間
幾何中,“空間”通常是作為點(diǎn)的集合,即構(gòu)成“空間”的元素是點(diǎn),這樣的空間叫做點(diǎn)空間。
我們把3 維向量的全體所組成的集合叫做3 維向量空間。
在點(diǎn)空間取定坐標(biāo)系以后,空間中的點(diǎn)P(x,y,z)與3 維向量 r =(x,y,z)T 之間有一一對(duì)應(yīng)的關(guān)系。
類(lèi)似的,n維向量的全體所組成的集合叫做n維向量空間。
Note: 這里n維向量空間的概念應(yīng)該可以理解成n x n矩陣。
在同濟(jì)大學(xué)線性代數(shù)第六版中,矩陣的列向量組和行向量組都是只含有限個(gè)向量的向量組;反之,一個(gè)含有限個(gè)向量的向量組總可以構(gòu)成一個(gè)矩陣。例如,一個(gè)mxn矩陣的全體列向量是一個(gè)含n個(gè)m維列向量的向量組。
向量空間(同濟(jì)大學(xué)線性代數(shù)第五版)
概念:設(shè)V為n維向量的集合,如何集合V非空,且集合V對(duì)于向量的加法及乘法兩種運(yùn)算封閉,那么就稱(chēng)集合V為向量空間。
封閉,是指在集合V中可以進(jìn)行向量的加法及乘法兩種運(yùn)算。具體地說(shuō),
同濟(jì)大學(xué)線代第五版結(jié)論:(1)?其次線性方程組的解集 S={x|Ax=0} 是一個(gè)向量空間(稱(chēng)為齊次線性方程組的解空間)。因此由齊次線性方程組的解的性質(zhì)1.2,即知其解集S對(duì)向量的線性運(yùn)算封閉。(2)非齊次線性方程組的解集 S={x|Ax=b}不是向量空間。
定義7(同濟(jì)線代第五版)
設(shè)V為向量空間,如果r個(gè)向量,且滿(mǎn)足
(1)?線性無(wú)關(guān)。
(2)V中任一向量都可由線性表示。
那么,向量組就稱(chēng)為向量空間V的一個(gè)基,r稱(chēng)為向量空間V的維數(shù),并稱(chēng)V為r維向量空間。
若把向量空間V看作向量組,則由最大無(wú)關(guān)組的等價(jià)定義可知,V的基就是向量組的最大無(wú)關(guān)組,V的維數(shù)就是向量組的秩。
2.5 二維矩陣
張學(xué)工教授《模式識(shí)別》p10
應(yīng)用背景:"多數(shù)癌癥并不是由單個(gè)基因的變化引起的,而是與多個(gè)基因有關(guān)系,人們希望借助基因芯片來(lái)揭示這些關(guān)系。"
"這樣,對(duì)于每個(gè)病人就獲得了成千上萬(wàn)個(gè)基因表達(dá)特征,而對(duì)每個(gè)基因也獲得了它們?cè)诿總€(gè)病人細(xì)胞中的表達(dá)特征。把這組芯片的數(shù)據(jù)集合起來(lái),就形成了一個(gè)二維矩陣,其中一維是基因,另一維是病例。"
解析:單個(gè)基因表達(dá)特征明顯是一個(gè)二維向量,成千上萬(wàn)的二維向量近乎組成了二維向量空間,亦即一個(gè)二維矩陣。
所以,二維矩陣的維度類(lèi)似于空間向量的維數(shù),而不是一個(gè)包含兩個(gè)元素的列矩陣。
所以,我們通常會(huì)說(shuō)矩陣的維度是指矩陣的行數(shù)。
如果本文由任何不足,歡迎各位大神提出來(lái),我會(huì)盡快修正。
總結(jié)
以上是生活随笔為你收集整理的机器学习之数学基础(二)~数组、向量、矩阵、向量空间、二维矩阵的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 机器学习应用方向(一)~英文姓名消歧(n
- 下一篇: 机器学习高阶认识(一): 机器学习假设与