自学内容网 自学内容网

动手学深度学习70 BERT微调

1. BERT微调

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

2. 自然语言推理数据集

3. BERT微调代码

4. QA

在这里插入图片描述
9 10, 一般不固定,固定参数可以使训练速度加快,可以尝试
11 应该能
12 本身很快+技术细节–>精度高
13 bert一般可以用工具转成c++ 开销大。考虑怎么提升bert性能。
14 设备性能不高,可以用蒸馏bert。模型中有大量冗余的东西。


原文地址:https://blog.csdn.net/weixin_42831564/article/details/143749168

免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!