torch.nn.functional.cross_entropy.ignore_index
生活随笔
收集整理的這篇文章主要介紹了
torch.nn.functional.cross_entropy.ignore_index
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
ignore_index表示計算交叉熵時,自動忽略的標簽值,example:
import torch
import torch.nn.functional as F
pred = []
pred.append([0.9, 0.1])
pred.append([0.8, 0.2])
pred = torch.Tensor(pred).view(-1, 2)
label = torch.LongTensor([[1], [-1]]) # 這里輸出類別為0或1,-1表示不參與計算loss。且計算平均loss的時候,reduction只計算實際參與計算的個數,這里相當于batchsize=2,但其中第index=1行為-1不參與計算loss。
#out = F.cross_entropy(pred.view(-1, 2), label.view(-1, ))
out = F.cross_entropy(pred.view(-1, 2), label.view(-1, ), ignore_index=-1)
print(out)
總結
以上是生活随笔為你收集整理的torch.nn.functional.cross_entropy.ignore_index的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: torch.backends.cudnn
- 下一篇: GPT-3 Finetune