協同過濾-矩陣分解算法

• 1.奇異值分解
• 2.梯度下降
• 3.矩陣分解方法的優缺點

《深度學習/推薦系統》讀書筆記

（其實矩陣分解和協同過濾已經沒有特別大的聯系了）
2006年，在Netfilx舉辦的推薦算法競賽中Netflix Prize Challenge中，以矩陣分解為主的推薦算法大放異彩，拉開了矩陣分解算法在業界流行的序幕。

Netflix 推薦場景–利用用戶的行為歷史，在Netflix視屏應用中為用戶推薦喜歡的電影、電視劇或者紀錄片。

矩陣分解算法基本思路–將用戶和視頻都表示成一個隱向量，計算每個用戶隱藏向量和所有視頻隱向量之間內積，將內積最大的topK的視屏推薦給目標用戶。

$m?n$維共現矩陣$R$，分解成$m?k$維用戶矩陣U，和$k?n$維物品矩陣$V$
$$R=U?V$$

則用戶$u$對物品i的重構評分為($p_u$-U矩陣的行向量，$q_i$-V矩陣的列向量):
$${\hat{r}}_{ui}=q_i^T{p}_u\text{\hspace{1em}(2.6)}$$

迷惑點1:用戶隱藏向量和所有視頻隱向量之間內積，其實就是重構用戶對每一部電影的品評分，推薦重構評分高的電影 是如何 實現了用戶對未評分電影的預測的呢？

矩陣分解中缺失值該怎么處理呢？就是用戶沒有評分的項目。

矩陣分解的方法：特征值分解、奇異值分解、梯度下降
特征值分解–只能作用于方陣，不適用于分解用戶-物品矩陣

1.奇異值分解

Singular Value Decomposition-SVD
$$M=U_{m?m}{\Sigma }_{m?n}{V}_{n?n}$$

近似分解：
$$M\approx U_{m?k}{\Sigma }_{k?k}{V}_{k?n}$$

缺點：不適用于大規模稀疏矩陣的分解

SVD要求原始共現矩陣是稠密的，需要對缺失的元素進行填充。

SVD時間復雜度高($O(m{n}^2)$)

2.梯度下降

SVD的缺點使得研究者門另求他路–梯度下降法（矩陣分解的主要方法）
基本思路–參數化$q_i^T{p}_u$，使其和原始評分$r_{ui}$的差距盡量小

正則化目標函數：
$$\underset{q^{?},p^{?}}{\min }\sum _{(u,i)\in K}(r_{ui}?q_i^T{p}_u{)}^2+\lambda (||q_i|{|}^2+||p_u|{|}^2)\text{\hspace{1em}(2.8)}$$

為了消除用戶和物品打分的偏差，修正目標函數：
$$\underset{q^{?},p^{?}}{\min }\sum _{(u,i)\in K}(r_{ui}?\mu ?b_u?b_i?q_i^T{p}_u{)}^2+\lambda (||q_i|{|}^2+||p_u|{|}^2+b_u^2+b_i^2)$$

其中：$\mu$是全局偏差常數，$b_i$是物品偏差系數(物品i收到的平均評分)，$b_u$用戶偏差系數(用戶u給出評分的均值)

3.矩陣分解方法的優缺點

優點：

泛化能力強–數據稀疏時的相似度也能衡量

空間復雜度低

擴展性和靈活性–用戶物品隱向量，與Embedding的思想相似，可以與其他特征進行拼接。

缺點：
矩陣分解還是下共現矩陣的基礎下進行的。共現矩陣缺點–一個矩陣只能表征用戶和物品之間的一種作用關系(點擊，購買，評分)，特征表示能力弱。不便加入用戶、物品的上下文相關特征。

總結

以上是生活随笔為你收集整理的推荐系统(3)-协同过滤2-矩阵分解算法的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。