316
0
2021-10-25
2021-10-25
学习周报
2021.10.19-2021.10.25
1、对比学习实验
尝试了一些模型，目前最好结果如下
| CONLL_en | NCBI | BC5CDR | ||
| SOTA | 94.6 | 89.36 | 71.25 | 90.03 |
| baseline | 92.8 | 89.03 | 68.93 | 88.55 |
| ours | 93.1 | 89.33 | 71.82 | 89.13 |
2、阅读论文《Template-Based Named Entity Recognition Using BART》
论文设计模板：<candidate_span> is a <entity type> entity，然后把NER任务变成sequence-to-sequence任务，即给定输入sequence x，输出模板sequence template_x。
该论文和Prompt learning不太一样，仅仅蹭了一下template。Prompt learning是希望利用语言模型的知识来做下游任务，同时能减少训练的参数。论文构建了一个encoder-decoder的架构跟Prompt的特点不相符。
下周计划
1、继续改进对比学习的实验。
2、目前NER的Prompt learning的文章比较少，可以去参考其他领域的Prompt的用法。
3、搭建Prompt NER的baseline
