最新消息: USBMI致力于为网友们分享Windows、安卓、IOS等主流手机系统相关的资讯以及评测、同时提供相关教程、应用、软件下载等服务。

L1不可导的时候该怎么办

业界 admin 4浏览 0评论

数据挖掘面试题集

1、面试题之L1不可导的时候该怎么办

当损失函数不可导,梯度下降不在有效,可以使用坐标轴下降法。梯度下降是沿着当前点的负梯度方向进行参数更新,而坐标轴下降法是沿着坐标轴的方法。假设有m个特征个数,坐标轴下降法进行参数更新的时候,先固定m-1个值,然后再求另外一个的局部最优解,从而避免损失函数不可导的问题。

数据挖掘面试题集

1、面试题之L1不可导的时候该怎么办

当损失函数不可导,梯度下降不在有效,可以使用坐标轴下降法。梯度下降是沿着当前点的负梯度方向进行参数更新,而坐标轴下降法是沿着坐标轴的方法。假设有m个特征个数,坐标轴下降法进行参数更新的时候,先固定m-1个值,然后再求另外一个的局部最优解,从而避免损失函数不可导的问题。

发布评论

评论列表 (0)

  1. 暂无评论