推薦模型中雙塔模型早已經(jīng)普及.一個塔學用戶表達.一個塔學item表達.很多雙塔模型用各種各樣的in-batch負采樣策略.十方也是如此.往往使用比較大的batchsize,效果會比較好,但是由于內(nèi)存限制,訓練效率會比較低.這篇論文《Cross-Batch Negative Sampling for Training Two-Tower Recommenders》發(fā)現(xiàn)encoder的輸出在warming up的訓練過程后就比較穩(wěn)定了,基于此提出一個高效負采樣的方法Cross Batch Negative Sampling (CBNS),該方法充分使用了最近編碼過的item embedding來加速訓練過程.

CBNS

關(guān)于問題定義就不贅述了，雙塔已經(jīng)寫了很多了，計算用戶與item相似度也是用簡單的點積。loss最典型的就是用sampled softmax:

提升訓練效率，最好使的就是batch內(nèi)負采樣了，如下圖(a)所示。

參考sampled softmax機制,論文修改上述公式為:

其中q(I)為采樣偏差。接下來就要說到cross-batch negative sampling，這個方法可以解決in-batch負采樣中，存在batch size受到gpu顯存大小，從而影響模型效果。在訓練過程中，我們往往認為過去訓練過的mini-batches是無用廢棄的，論文中則認為這些信息可以反復利用在當前負采樣中因為encoder逐漸趨于穩(wěn)定。論文中用下式評估item encoder特征的偏移:

如上圖(b)所示，在早期學習率較大的時候，encoder編碼相同item的變化是很大的，隨著訓練過程的推進，學習率逐漸降低，特征逐漸趨向于穩(wěn)定,如下圖所示

這時候我們可以充分利用穩(wěn)定的embedding作為負樣本。但是用歷史的embedding會給梯度帶來偏差，論文有證明這個偏差影響是很小的:

考慮到訓練前期embedding波動較大，在warm up過程中先使用簡單的in-batch內(nèi)負采樣,然后使用一個FIFO memory bank，存放M個歷史item embedding

q(I)表示第i個item的采樣概率。CBNS的softmax如下式所示:

在每次迭代結(jié)束，都會把當前mini-batch的embedding和采樣概率加入memory bank.在下次訓練過程中,除了使用batch內(nèi)負樣本,同時也會從memory bank中拉取負樣本.

實驗

對比不同采樣策略下的表現(xiàn):

以及在不同模型下驗證集的召回和NDCG曲線:

同時論文還對比了M大小/負樣本數(shù)對效果的影響:

參考文獻

雙塔模型中的負采樣

更多精彩，盡在 煉丹筆記

總結(jié)

以上是生活随笔為你收集整理的双塔模型中的负采样的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。