语言: 中文

标签:

• 句子嵌入
• 句子相似度
• 双编码器

cambridgeltl/trans-encoder-bi-simcse-roberta-large

由刘等人（2021）提出的无监督句子编码器（双编码器）。该模型使用从STS2012-2016、STS-b和SICK-R中采样的无标签句子对进行训练，并以princeton-nlp/unsup-simcse-roberta-large作为基础模型。请使用[CLS]（在池化层之前）作为输入的表征。

引用

@article{liu2021trans,
  title={Trans-Encoder: 通过自蒸馏和互蒸馏的无监督句子对建模},
  author={刘芳宇 and 焦云龙 and 乔丹·马西 and 埃米内·耶尔马兹 and 谢尔希·哈夫里洛夫},
  journal={arXiv预印本 arXiv:2109.13059},
  year={2021}
}