交叉熵损失函数权重计算
生活随笔
收集整理的這篇文章主要介紹了
交叉熵损失函数权重计算
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
交叉熵損失函數
torch.nn.CrossEntropyLoss(weight=None, size_average=None, ignore_index=- 100, reduce=None, reduction='elementwise_mean')weight為每個類別的loss設置權重,常用于類別不均衡的問題,weight的數據類型必須是float的tensor,其個數要與分類的類別個數一致(其他參數不介紹)
weight的計算方法經常使用median frequency balancing,假設有五個類別的分類。那么每個類別都要計算一個頻率,以第一類別為例,其計算公式為?
上面式子中的a表示第一個類別的像素個數,b代表所有包含第一類的照片中的像素個數
(例如100張圖片中有80張包含第一類,那么a就是這80張里面屬于第一個類別的像素總數,b就是80張圖片的像素總數)
按照上面的說法五個類別可以計算出五個數字,然后排成一列,找到這5個數字的中值median_freq,然后使用這個中值依次除以上述五個數,得到的新的五個數字就是五個權重。
總結
以上是生活随笔為你收集整理的交叉熵损失函数权重计算的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 如何为你的文本标签添加圆点、三角等不规则
- 下一篇: RUSH二叉树