nn.ReLU() 和 nn.ReLU(inplace=True)中inplace的作用
生活随笔
收集整理的這篇文章主要介紹了
nn.ReLU() 和 nn.ReLU(inplace=True)中inplace的作用
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
inplace
作用:
1.用relu后的變量進行替換,直接把原來的變量覆蓋掉
2.節省了內存
缺點:
有時候出現梯度回傳失敗的問題,因為之前的變量被替換了,找不到之前的變量了
參考這篇文章
總結
以上是生活随笔為你收集整理的nn.ReLU() 和 nn.ReLU(inplace=True)中inplace的作用的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 【SpringBoot 2】(六)配置文
- 下一篇: windows进程管理器_任务管理器就能