深度学习的数学 (6)误差反向传播法必需的链式法则
生活随笔
收集整理的這篇文章主要介紹了
深度学习的数学 (6)误差反向传播法必需的链式法则
小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
1. 神經(jīng)網(wǎng)絡(luò)和復(fù)合函數(shù)
y = f(u), u = g(x)
嵌套結(jié)構(gòu)的函數(shù) f(g(x)) 稱為 f(u) 和 g(x) 的復(fù)合函數(shù)。
2. 鏈?zhǔn)椒▌t,復(fù)合函數(shù)求導(dǎo)公式
2.1 三個(gè)函數(shù)的復(fù)合函數(shù)的鏈?zhǔn)椒▌t
2.2. 多變量函數(shù)的鏈?zhǔn)椒▌t
變量 z 為 u、 v 的函數(shù),如果 u、 v 分別為 x、 y 的函數(shù),則 z 為 x、 y的函數(shù)
z 關(guān)于 x 求導(dǎo)時(shí),先對(duì) u、 v 求導(dǎo),然后與 z 的相應(yīng)導(dǎo)數(shù)相乘,最后將乘積加起來
在三個(gè)以上的變量的情況下也同樣成立
總結(jié)
以上是生活随笔為你收集整理的深度学习的数学 (6)误差反向传播法必需的链式法则的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: STL源代码分析(ch2 内存分配)un
- 下一篇: stdthread(7)并发unique