损失函数选择
1. 什么是回归问题,什么是分类问题
答:回归问题是线性问题,比如房价预测,股市预测,温度预测等。分类问题是非线问题,比如猫狗分类,服装分类等
2. 交叉熵损失函数
交叉熵:公式中使用到了log,通用的是-真实值*log(预测值激活结果)
2.1 为什么交叉熵适合做分类
我觉得之所以使用log交叉熵适合分类,原因是-log函数的图像中0到1区间成单调递减趋势,且随x变化而变化较快。简单说就是对概率敏感。
2.2 有哪些交叉熵损失函数
1. 多分类交叉熵,是使用了softmax激活函数,softmax激活函数的结果是概率分布的,适合做多分类。
2. 二分类交叉熵,是使用了sigmoid激活函数,sigmoid函数结果是一个分数值,根据大小来二分类最适合不过
2.3 CrossEntroyLoss
相当于先用softmax激活,然后再进行交叉熵计算。得到损失值
2.4BCEWithlogitLoss
相当于先用sigmoid激活,然后再进行交叉熵计算。得到损失值
原文地址:https://blog.csdn.net/jenny88889999/article/details/144119258
免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!