优化问题中的两个挑战是?
生活随笔
收集整理的這篇文章主要介紹了
优化问题中的两个挑战是?
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
優化問題中的兩個挑戰是?
局部最小值
鞍點
梯度消失
梯度爆炸
Answer Area
Correct Answer
shut
Answer Key :
概念題,答案是AB。 優化問題中的兩個挑戰:局部最小值和鞍點。這兩種情況都會造成梯度接近或變成零,從而使得網絡很難繼續優化。 低維空間的非凸優化問題:主要是存在一些局部最優點。采用梯度下降方法時,不合適的參數初始化會導致陷入局部最優點,因此主要的難點是如何選擇初始化參數和逃離局部最優點。 高維空間中非凸優化的難點:并不在于如何逃離局部最優點,而是如何逃離鞍點。鞍點(saddle point)是梯度為0,但是在一些維度上是最高點,在另一些維度上是最低點。
與50位技術專家面對面20年技術見證,附贈技術全景圖總結
以上是生活随笔為你收集整理的优化问题中的两个挑战是?的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: patent sub categorie
- 下一篇: 近似推断包括采样和变分两种方法,前者是通