自学内容网 自学内容网

损失函数选择

1. 什么是回归问题,什么是分类问题

答:回归问题是线性问题,比如房价预测,股市预测,温度预测等。分类问题是非线问题,比如猫狗分类,服装分类等

2. 交叉熵损失函数

交叉熵:公式中使用到了log,通用的是-真实值*log(预测值激活结果)

2.1 为什么交叉熵适合做分类

我觉得之所以使用log交叉熵适合分类,原因是-log函数的图像中0到1区间成单调递减趋势,且随x变化而变化较快。简单说就是对概率敏感。

2.2 有哪些交叉熵损失函数

1. 多分类交叉熵,是使用了softmax激活函数,softmax激活函数的结果是概率分布的,适合做多分类。

2. 二分类交叉熵,是使用了sigmoid激活函数,sigmoid函数结果是一个分数值,根据大小来二分类最适合不过

2.3 CrossEntroyLoss

相当于先用softmax激活,然后再进行交叉熵计算。得到损失值

2.4BCEWithlogitLoss

相当于先用sigmoid激活,然后再进行交叉熵计算。得到损失值


原文地址:https://blog.csdn.net/jenny88889999/article/details/144119258

免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!