推薦系統(tǒng)筆記：基于潛在因子模型的協(xié)同過濾（latent factor model）_UQI-LIUWJ的博客-CSDN博客

推薦系統(tǒng)筆記：無任何限制的矩陣分解_UQI-LIUWJ的博客-CSDN博客

推薦系統(tǒng)筆記：基于SVD的協(xié)同過濾_UQI-LIUWJ的博客-CSDN博客

推薦系統(tǒng)筆記：基于非負(fù)矩陣分解的協(xié)同過濾_UQI-LIUWJ的博客-CSDN博客

1 矩陣分解 X 協(xié)同過濾 家族

????????很明顯，前面幾節(jié)中各種形式的矩陣分解有很多共同點(diǎn)。 所有上述優(yōu)化公式都使殘差矩陣的 Frobenius 范數(shù)最小化，與此同時因子矩陣 U 和 V 需要滿足各種特定的約束。? 對因子矩陣的不同約束實現(xiàn)了不同的可解釋性屬性。

???????? 事實上，更廣泛的矩陣分解模型系列可以使用任何其他目標(biāo)函數(shù)或約束來強(qiáng)制逼近。 這個更廣泛的家庭可以寫成如下形式：

?????????在大多數(shù)情況下，正則化項被添加到目標(biāo)函數(shù)中以防止過擬合。

1.1 不同的約束?

????????各種約束通常對因素施加不同類型的可解釋性。 這種可解釋性的兩個例子是正交性（SVD分解，提供幾何可解釋性）和非負(fù)性（非負(fù)矩陣分解，提供’部分總和‘可解釋性）。

????????此外，即使這些約束增加了觀測值上的誤差，當(dāng)它們具有有意義的語義解釋時，它們有時也可以改善未觀察條目的準(zhǔn)確度。 這是因為約束減少了未觀察條目的方差，同時增加了偏差。 因此，該模型具有更好的泛化性。

????????例如，將 U 和 V 中的各一列中的條目固定為1幾乎總是會導(dǎo)致更好的性能。

推薦系統(tǒng)筆記：無任何限制的矩陣分解_UQI-LIUWJ的博客-CSDN博客

???????? 選擇要使用的正確約束通常取決于數(shù)據(jù)，并且需要深入了解手頭的應(yīng)用和目標(biāo)。

????????

2??PLSA

?????????存在其他形式的因式分解，其中可以為因子分配概率可解釋性。

???????? 例如，考慮一個非負(fù)一元評級矩陣 R 被視為相對頻率分布的場景，其條目總和為 1。

????????

? ? ? ? ?我們可以很容易地將R矩陣規(guī)約化到條目之和為1（每個條目除以 條目總和）

? ? ? ? 這種矩陣R的分解可以用一種和SVD類似，但是不是SVD的方法來進(jìn)行

????????

? ? ? ? ?這種分解只是長得像SVD分解，但實際的內(nèi)容和SVD分解還是相差甚遠(yuǎn)：

• ?此時Qk的列、Pk的列不用再是正交的
• Qk的每一列、Pk的每一列值都是非負(fù)的，每一列數(shù)值之和為1
• 對角矩陣Σk的每個條目（對角線上的值）也均為非負(fù)，它們的和也是1

?這里我們說明一下，比如我們令此時Qk為,Pk為,Σk為

滿足如下式子

這個矩陣所有條目的和為：

=1

????????這種因式分解具有概率解釋：矩陣 Qk、Pk 和 Σk 包含創(chuàng)建評分矩陣的生成過程的概率參數(shù)。這種方法被稱為概率潛在語義分析（PLSA），它可以被視為非負(fù)矩陣分解的概率變體。

????????顯然，這種分解的概率性質(zhì)為其提供了不同類型的可解釋性。

3 匯總

????????這里匯總了幾種較為主流的MF模型。需要注意的是，模型的選擇取決于問題設(shè)置、數(shù)據(jù)中的噪聲以及所需的可解釋性水平。沒有單一的解決方案可以實現(xiàn)所有這些目標(biāo)。仔細(xì)理解問題域?qū)τ谶x擇正確的模型很重要。 ?

模型	限制	目標(biāo)函數(shù)	優(yōu)點(diǎn)	缺點(diǎn)
無限制矩陣分解	無	frobenius 范數(shù)	對于有觀測值的條目，可以有很好的準(zhǔn)確度 適用于大多數(shù)情況	對于沒有觀測值的條目，不一定有很好的準(zhǔn)確度 缺乏可解釋性
SVD	U和V各自的列向量正交	frobenius 范數(shù)	很好的幾何解釋性 外推推薦 稠密矩陣效果很好	稀疏矩陣效果一般
非負(fù)矩陣分解	所有條目非負(fù)	frobenius 范數(shù)	很好的語義可解釋性 適用于隱式反饋矩陣
PLSA	所有條目非負(fù) 所有條目之和為1	有觀測值的這些條目的最大概率	很好的語義可解釋性 適用于隱式反饋矩陣

總結(jié)

以上是生活随笔為你收集整理的推荐系统笔记：基于矩阵分解（总结篇）的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。