本文參考資料列表：

【1】Robust Regression Shrinkage and Consistent?Variable Selection Through the LAD-Lasso?

【2】維基百科?https://en.wikipedia.org/wiki/Least_absolute_deviations

LAD-lasso簡(jiǎn)介

LAD-lasso是一種將 lasso的 regression shrinkage and selection 和LAD （least absolute deviation）對(duì)于outliers和heavy-tailed errors的穩(wěn)健性結(jié)合起來(lái)的辦法。?

LAD-lasso準(zhǔn)則

lasso準(zhǔn)則是：

lasso準(zhǔn)則對(duì)所有的變量施加相同的tuning parameter，得到的估計(jì)量是有偏的，修改lasso得到以下準(zhǔn)則：

lasso*準(zhǔn)則中使用的是Ordinary Least Square，對(duì)于outliers比較敏感，改為least absolute deviation：

LAD-lasso求解

LAD-lasso可以轉(zhuǎn)化為無(wú)懲罰的LAD問(wèn)題求解：

而LAD問(wèn)題的求解，最推薦的是線性規(guī)劃方法，如何將LAD問(wèn)題轉(zhuǎn)化為線性規(guī)劃問(wèn)題呢？

我們想要：

該問(wèn)題等價(jià)于：

其中的constraints會(huì)在最小化目標(biāo)函數(shù)的同時(shí)，強(qiáng)制每個(gè) u_i?等于| y_i -a₀-...-a_kx_ik?|，因此等價(jià)于原始的目標(biāo)函數(shù)。

LAD-lasso性質(zhì)

待補(bǔ)充。。

線性規(guī)劃

基于單純形的方法是解決最小絕對(duì)偏差問(wèn)題的“首選”方法。單純形法是一種解決線性規(guī)劃問(wèn)題的方法。 最流行的算法是Barrodale-Roberts modified Simplex算法。

?

轉(zhuǎn)載于:https://www.cnblogs.com/grace-luke/p/9975576.html

總結(jié)

以上是生活随笔為你收集整理的LAD-lasso和线性规划算法的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。