自学内容网 自学内容网

自然语言处理-基于注意力机制的文本匹配

背景:

任务三:基于注意力机制的文本匹配

输入两个句子判断,判断它们之间的关系。参考ESIM(可以只用LSTM,忽略Tree-LSTM),用双向的注意力机制实现。

  1. 参考

    1. 神经网络与深度学习》 第7章

    2. Reasoning about Entailment with Neural Attention https://arxiv.org/pdf/1509.06664v1.pdf

    3. Enhanced LSTM for Natural Language Inference https://arxiv.org/pdf/1609.06038v3.pdf

  2. 数据集:The Stanford Natural Language Processing Group

  3. 实现要求:Pytorch

  4. 知识点:

    1. 注意力机制

    2. token2token attetnion

  5. 时间:两周

受限于实际资料的限制,这里只模糊叙述信息,不展示所有资料

过程:

最初使用RNN完成了所述要求,训练出了对应的模型,后增加了分词算法与可视化界面展示,最终变为LSTM解决

源码获取

欢迎大家点赞、收藏、关注、评论、批评啦 、查看👇🏻👇🏻获取联系方式👇🏻👇🏻


原文地址:https://blog.csdn.net/Elephantpretty/article/details/141822621

免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!