高斯过程分类原理
高斯過程原理:
? ? ? ?連續型變量中最普遍的分布就是高斯分布,即正態分布,也是學習和生活中接觸最廣的分布。一元
高斯分布由均值???和方差??2?兩個參數所確定。其概率密度形如:
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?
? ? ?多元高斯分布由均值向量?E x?( )?和協方差矩陣cov( )?x?所確定,協方差矩陣式對稱且正定,其概率
密度形如:
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?
? ? ?高斯過程是隨機變量的集合,假設輸入為X={x1.x2.x3.x4,,,,},則對應的輸出隨機變量函數為f={f1,f2,f3,f4,.....}.在任一時刻觀察這個隨機過程,
概率分布均服從聯合高斯分布,就是高斯過程,高斯過程由均值函數m(X)和協方差矩陣k(x,x1)組成。
? ??
? ? 二分類問題:
? ?二分類問題的基本思想是通過確定一個合適的映射函數f(X),使之能夠對測試樣本x進行預測,GPC模型在解決二分類問題時,首先假設F(x)是一個高斯過程,然后通過貝葉斯原理獲得合適的f(X)。
? 高斯過程模型用于分類的實現思想:
? 假設n個學習樣本集,S{(x,y)|y=+-1,i=1,2,3,...n},類標簽y是獨立同分布,條件概率p(y|f)。在二分類問題中,樣本x屬于類標簽y的概率可以表示成:
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??
? ? ? ? ? ? ? ? ?
我們可以得到似然函數:
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?
高斯過程分類就是對f(X)施加均值為0,協方差為K的高斯分布先驗,即:f(x)~~GP(0,K),則p(f|x)是一個多維高斯密度函數:
? ? ? ? ? ? ? ? ? ? ? ? ? ??
貝葉斯公式可得到后驗概率:
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??
這個問題的解是:
? ? ? ? ? ? ? ? ? ? ? ? ? ??
? ? ? ? ? ? ? ? ??
《新程序員》:云原生和全面數字化實踐50位技術專家共同創作,文字、視頻、音頻交互閱讀總結