首页 热点资讯 义务教育 高等教育 出国留学 考研考公

什么是正则化技术?

发布网友 发布时间:2022-04-01 08:38

我来回答

2个回答

懂视网 时间:2022-04-01 12:59

l1和l2正则化的区别是:

  

  1、L1是模型各个参数的绝对值之和。L2是模型各个参数的平方和的开方值。

  

  2、L1会趋向于产生少量的特征,而其他的特征都是0,因为最优的参数值很大概率出现在坐标轴上,这样就会导致某一维的权重为0 ,产生稀疏权重矩阵。L2会选择更多的特征,这些特征都会接近于0。

  

  3、最优的参数值很小概率出现在坐标轴上,因此每一维的参数都不会是0。当最小化||w||时,就会使每一项趋近于0。

  

  

热心网友 时间:2022-04-01 10:07

正则化技术是对模型权重施加权重*的方式,常用的有L1和L2正则化,L1正则化可以产生稀疏解

声明声明:本网页内容为用户发布,旨在传播知识,不代表本网认同其观点,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。E-MAIL:11247931@qq.com