StructBERT中文文本相似度模型介绍

StructBERT中文文本相似度模型是在structbert-large-chinese预训练模型的基础上，用atec、bq_corpus、chineseSTS、lcqmc、paws-x-zh五个数据集（52.5w条数据，正负比例0.48:0.52）训练出来的相似度匹配模型。

模型描述

模型基于Structbert-large-chinese，在atec、bq_corpus、chineseSTS、lcqmc、paws-x-zh五个数据集（52.5w条数据）上fine-tune得到。

期望模型使用方式以及适用范围

你可以使用StructBERT中文文本相似度模型，对通用领域的文本相似度任务进行推理。 输入形如（文本A，文本B）的文本对数据，模型会给出该文本对的是否相似的标签（0, 1）以及相应的概率。

如何使用

在安装完成ModelScope-lib之后即可使用

代码范例

from modelscope.pipelines import pipeline
from modelscope.utils.constant import Tasks

semantic_cls = pipeline(Tasks.sentence_similarity, 'damo/nlp_structbert_sentence-similarity_chinese-large')
semantic_cls(input=('商务职业学院和财经职业学院哪个好？', '商务职业学院商务管理在哪个校区？'))

模型局限性以及可能的偏差

模型训练数据有限，在特定行业数据上，效果可能存在一定偏差。

训练数据介绍

数据来源于https://github.com/CLUEbenchmark/CLUEDatasetSearch

数据评估及结果

相关论文以及引用信息

@article{wang2019structbert,
  title={Structbert: Incorporating language structures into pre-training for deep language understanding},
  author={Wang, Wei and Bi, Bin and Yan, Ming and Wu, Chen and Bao, Zuyi and Xia, Jiangnan and Peng, Liwei and Si, Luo},
  journal={arXiv preprint arXiv:1908.04577},
  year={2019}
}