1 參數

簡單來說，模型參數就是模型內部的配置變量

1.1 參數的特征

具體來講，模型參數有以下特征：

（1）進行模型預測時需要模型參數
（2）模型參數值可以定義模型功能
（3）模型參數用數據估計或數據學習得到
（4）模型參數一般不由實踐者手動設置
（5）模型參數通常作為學習模型的一部分保存

通常使用優化算法估計模型參數，優化算法是對參數的可能值進行的一種有效搜索。

1.2 參數舉例

模型參數的一些例子包括：

（1）神經網絡中的權重
（2）支持向量機中的支持向量
（3）線性回歸或邏輯回歸中的系數

2 超參數

模型超參數是模型外部的配置，其值不能從數據估計得到。

2.1 超參數特征

具體特征有：

（1）模型超參數常應用于估計模型參數的過程中
（2）模型超參數通常由實踐者直接指定
（3）模型超參數通常可以使用啟發式方法來設置
（4）模型超參數通常根據給定的預測建模問題而調整

?對于給定的問題，我們無法知道模型超參數的最優值。但我們可以使用經驗法則來探尋其最優值，或復制用于其他問題的值，也可以通過反復試驗的方法。

2.2 超參數舉例

模型超參數的一些例子包括：

（1）訓練神經網絡的學習速率
（2）支持向量機的C和sigma超參數
（2）k鄰域中的k

總而言之，模型參數是從數據中自動估計的，而模型超參數是手動設置的，并用于估計模型參數的過程。

總結

以上是生活随笔為你收集整理的机器学习笔记：参数超参数的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。