Paper: Condenser: a Pre-training Architecture for Dense Retrieval
Code: https://github.com/luyug/Condenser
Publication: EMNLP 2021
最近在忙的项目需要一个好的方法来表征句子,于是就读到了这篇论文。这篇论文的 idea 和代码都不复杂,基本上就是对 Bert 的一个简单改造。我写本文的目的是记录学习一下它改造 bert 的代码技巧。
Paper: Condenser: a Pre-training Architecture for Dense Retrieval
Code: https://github.com/luyug/Condenser
Publication: EMNLP 2021
最近在忙的项目需要一个好的方法来表征句子,于是就读到了这篇论文。这篇论文的 idea 和代码都不复杂,基本上就是对 Bert 的一个简单改造。我写本文的目的是记录学习一下它改造 bert 的代码技巧。