在一头扎进机器学习前应该知道的那些事儿
機器學習一直是一個火熱的研究領域,深度學習方法的提出又為這個領域添了一把火,使得很多人對該領域感興趣并想投身于該領域的研究之中。那么,對于想從事機器學習領域的人來說,有哪些是應該首先了解的內容呢?本文將簡單的介紹下機器學習的基本相關知識。
機器學習是指使計算機系統使用統計技術學習數據的過程,而不需要具體的編程程序。該方法是一個主動學習的算法,使得它能夠從數據中學習并進行預測。機器學習與計算統計、數學優化以及數據學習密切相關,通常被用來進行預測、分析等任務。機器學習一般用于處理兩類任務:
- 有監督學習:輸入給計算機的示例帶有標簽(期望輸出),基于標簽調整建立的模型,以學習輸入到輸出的映射規則。
- 無監督學習:輸入給計算機的示例沒有標簽,建立的模型必須通過自身學習產生輸出。無監督學習涉及到從數據中發現隱藏的模式,包含特征學習。
機器學習這個術語對于大多非該領域的人來說聽起來很高級,但其實不然。只要你清楚機器學習的基本概念以及相關方法后,機器學習其實很簡單,即根據相關任務,選擇合適的機器學習方法,讓機器學習并處理特征以完成相應的任務。因此,在學習和應用機器學習之前,我們首先應該明確自己的任務是什么,以及適合使用哪種機器學習方法來完成。
如果我們想了解算法背后的基本理論以及其工作原理,那么精通概率與統計、線性代數和微積分對我們而言顯得至關重要。此外,了解諸如Python等編程語言將使你能夠容易得實現相關算法,理論基礎與編程能力二者在手,機器學習我有。此外,理解相關的數學知識和應用也是很有必要的,無論是通過線下自學或者是網絡在線培訓等學習方法,都必須實踐,實踐可以增加自己對基本知識的理解,同時也能鍛煉其編程能力。
在學習機器學習之前,掌握以下知識是很有必要的:
- 線性代數
- 微積分
- 概率論
- 程序設計
- 最優化理論
下面是一些最常見的機器學習任務以及相關方法,對其理解后方便在后續工程中應用。
回歸
回歸主要涉及連續變量或數值變量的估計,比如估計房價、股票價格、產品價格等使用回歸估計。即根據相關的數據建立回歸曲線,對新的數據進行預測估計。以下機器學習方法用于解決回歸問題:
- 核回歸(Kernel regression)
- 支持向量回歸(Support vector regression)
- 高斯過程回歸(Gaussian process regression)
- 線性回歸(Linear regression)
- LASSO回歸(Least absolute shrinkage and selection operator)
- 回歸樹(Regression tree)
分類
分類與離散變量或數據類別的預測有關。比如區分垃圾郵件、病人患有哪種疾病、交易是否屬于欺詐行為等任務,都是使用分類方法處理的。以下方法可以用于解決分類問題:
- 核判別分析(Kernel discriminant analysis)
- 人工神經網絡(Artificial neural networks)
- K鄰近算法(K-nearests neighbors)
- Boosted trees
- 隨機森林(Random forests)
- 邏輯回歸(Logistic regression)
- 支持向量機(Support vector machine)
- 深度學習(Deep learning)
- 樸素貝葉斯(Naive Bayes)
- 決策樹(Decision trees)
聚類
聚類一般應用于數據自然分組。比如產品特征識別、客戶細分等任務都是聚類的一些應用場景。以下機器學習方法用于聚類問題:
- 均值漂移(Mean-shift)
- K-均值(K-means)
- 主題模型(Topic models)
- 層次聚類(Hierarchical clustering)
多元查詢
多元查詢是用來尋找相似目標。下面的方法可用于解決與多元查詢有關的問題:
- 近鄰取樣(Nearest neighbors)
- 最遠鄰居(Farthest neighbors)
- 范圍搜索(Range search)
降維
降維是指降低多個隨機變量的維度,將其分為特征提取和特征選擇。常用的降維方法如下:
- 流線學習方法/核主成分分析(Manifold learning/KPCA)
- 獨立分量分析(Independent component analysis)
- 主成分分析(Principal component analysis)
- 非負矩陣分解(Non-negative matrix factorization)
- 壓縮感知(Compressed sensing)
- 高斯圖模型(Gaussian graphical models)
總結
以上是生活随笔為你收集整理的在一头扎进机器学习前应该知道的那些事儿的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 推荐系统架构
- 下一篇: JavaWeb学习总结(一):JavaW