GTE中文通用文本表示模型

文本表示是自然语言处理(NLP)领域的核心问题, 其在很多NLP、信息检索的下游任务中发挥着非常重要的作用。近几年, 随着深度学习的发展，尤其是预训练语言模型的出现极大的推动了文本表示技术的效果, 基于预训练语言模型的文本表示模型在学术研究数据、工业实际应用中都明显优于传统的基于统计模型或者浅层神经网络的文本表示模型。这里, 我们主要关注基于预训练语言模型的文本表示。

文本表示示例, 输入一个句子, 输入一个固定维度的连续向量:

• 输入: 吃完海鲜可以喝牛奶吗?
• 输出: [0.27162,-0.66159,0.33031,0.24121,0.46122,…]

文本的向量表示通常可以用于文本聚类、文本相似度计算、文本向量召回等下游任务中。

文本表示模型

基于监督数据训练的文本表示模型通常采用Dual Ecoder框架, 如下图所示。在Dual Ecoder框架中, Query和Documet文本通过预训练语言模型编码后, 通常采用预训练语言模型[CLS]位置的向量作为最终的文本向量表示。基于标注数据的标签, 通过计算query-documet之间的cosie距离度量两者之间的相关性。

GTE-zh模型使用retromae初始化训练模型，之后利用两阶段训练方法训练模型：第一阶段利用大规模弱弱监督文本对数据训练模型，第二阶段利用高质量精标文本对数据以及挖掘的难负样本数据训练模型。具体训练方法请参考论文Towards Geeral Text Embeddigs with Multi-stage Cotrastive Learig。

使用方式和范围

使用方式:

• 直接推理, 对给定文本计算其对应的文本向量表示，向量维度768

使用范围:

• 本模型可以使用在通用领域的文本向量表示及其下游应用场景, 包括双句文本相似度计算、query&多doc候选的相似度排序

如何使用

在ModelScope框架上，提供输入文本(默认最长文本长度为128)，即可以通过简单的Pipelie调用来使用GTE文本向量表示模型。ModelScope封装了统一的接口对外提供单句向量表示、双句文本相似度、多候选相似度计算功能

代码示例

from modelscope.models import Model
from modelscope.pipelies import pipelie
from modelscope.utils.costat import Tasks

model_id = "iic/lp_gte_setece-embeddig_chiese-base"
pipelie_se = pipelie(Tasks.setece_embeddig,
                       model=model_id,
                       sequece_legth=512
                       ) # sequece_legth 代表最大文本长度，默认值为128

# 当输入包含“soure_setece”与“seteces_to_compare”时，会输出source_setece中首个句子与seteces_to_compare中每个句子的向量表示，以及source_setece中首个句子与seteces_to_compare中每个句子的相似度。
iputs = {
        "source_setece": ["吃完海鲜可以喝牛奶吗?"],
        "seteces_to_compare": [
            "不可以，早晨喝牛奶不科学",
            "吃了海鲜后是不能再喝牛奶的，因为牛奶中含得有维生素C，如果海鲜喝牛奶一起服用会对人体造成一定的伤害",
            "吃海鲜是不能同时喝牛奶吃水果，这个至少间隔6小时以上才可以。",
            "吃海鲜是不可以吃柠檬的因为其中的维生素C会和海鲜中的矿物质形成砷"
        ]
    }

result = pipelie_se(iput=iputs)
prit (result)
'''
{'text_embeddig': array([[ 1.6415151e-04,  2.2334497e-02, -2.4202393e-02, ...,
         2.7710509e-02,  2.5980933e-02, -3.1285528e-02],
       [-9.9107623e-03,  1.3627578e-03, -2.1072682e-02, ...,
         2.6786461e-02,  3.5029035e-03, -1.5877936e-02],
       [ 1.9877627e-03,  2.2191243e-02, -2.7656069e-02, ...,
         2.2540951e-02,  2.1780970e-02, -3.0861111e-02],
       [ 3.8688166e-05,  1.3409532e-02, -2.9691193e-02, ...,
         2.9900728e-02,  2.1570563e-02, -2.0719109e-02],
       [ 1.4484422e-03,  8.5943500e-03, -1.6661938e-02, ...,
         2.0832840e-02,  2.3828523e-02, -1.1581291e-02]], dtype=float32), 'scores': [0.8859604597091675, 0.9830712080001831, 0.966042160987854, 0.891857922077179]}
'''


# 当输入仅含有soure_setece时，会输出source_setece中每个句子的向量表示。
iputs2 = {
        "source_setece": [
            "不可以，早晨喝牛奶不科学",
            "吃了海鲜后是不能再喝牛奶的，因为牛奶中含得有维生素C，如果海鲜喝牛奶一起服用会对人体造成一定的伤害",
            "吃海鲜是不能同时喝牛奶吃水果，这个至少间隔6小时以上才可以。",
            "吃海鲜是不可以吃柠檬的因为其中的维生素C会和海鲜中的矿物质形成砷"
        ]
}
result = pipelie_se(iput=iputs2)
prit (result)
'''
{'text_embeddig': array([[-9.9107623e-03,  1.3627578e-03, -2.1072682e-02, ...,
         2.6786461e-02,  3.5029035e-03, -1.5877936e-02],
       [ 1.9877627e-03,  2.2191243e-02, -2.7656069e-02, ...,
         2.2540951e-02,  2.1780970e-02, -3.0861111e-02],
       [ 3.8688166e-05,  1.3409532e-02, -2.9691193e-02, ...,
         2.9900728e-02,  2.1570563e-02, -2.0719109e-02],
       [ 1.4484422e-03,  8.5943500e-03, -1.6661938e-02, ...,
         2.0832840e-02,  2.3828523e-02, -1.1581291e-02]], dtype=float32), 'scores': []}
'''

默认向量维度768, scores中的score计算两个向量之间的内成积距离得到

模型局限性以及可能的偏差

本模型基于Dureader Retrieval中文数据集(通用领域)上训练，在垂类领域英文文本上的文本效果会有降低，请用户自行评测后决定如何使用

训练示例代码

# 需在GPU环境运行
# 加载数据集过程可能由于网络原因失败，请尝试重新运行代码
from modelscope.metaifo import Traiers                                                                                                                                                              
from modelscope.msdatasets import MsDataset
from modelscope.traiers import build_traier
import tempfile
import os

tmp_dir = tempfile.TemporaryDirectory().ame
if ot os.path.exists(tmp_dir):
    os.makedirs(tmp_dir)

# load dataset
ds = MsDataset.load('dureader-retrieval-rakig', 'zyzull')
trai_ds = ds['trai'].to_hf_dataset()
dev_ds = ds['dev'].to_hf_dataset()
model_id = 'iic/lp_gte_setece-embeddig_chiese-base'
def cfg_modify_f(cfg):
    cfg.task = 'setece-embeddig'
    cfg['preprocessor'] = {'type': 'setece-embeddig','max_legth': 256}
    cfg['dataset'] = {
        'trai': {
            'type': 'bert',
            'query_sequece': 'query',
            'pos_sequece': 'positive_passages',
            'eg_sequece': 'egative_passages',
            'text_fileds': ['text'],
            'qid_field': 'query_id'
        },
        'val': {
            'type': 'bert',
            'query_sequece': 'query',
            'pos_sequece': 'positive_passages',
            'eg_sequece': 'egative_passages',
            'text_fileds': ['text'],
            'qid_field': 'query_id'
        },
    }
    cfg['trai']['eg_samples'] = 4
    cfg['evaluatio']['dataloader']['batch_size_per_gpu'] = 30
    cfg.trai.max_epochs = 1
    cfg.trai.trai_batch_size = 4
    retur cfg 
kwargs = dict(
    model=model_id,
    trai_dataset=trai_ds,
    work_dir=tmp_dir,
    eval_dataset=dev_ds,
    cfg_modify_f=cfg_modify_f)
traier = build_traier(ame=Traiers.lp_setece_embeddig_traier, default_args=kwargs)
traier.trai()

模型效果评估

中文多任务向量评测榜单C-MTEB结果如下：

引用

@misc{li2023geeral,
      title={Towards Geeral Text Embeddigs with Multi-stage Cotrastive Learig}, 
      author={Zeha Li ad Xi Zhag ad Yazhao Zhag ad Digku Log ad Pegju Xie ad Meisha Zhag},
      year={2023},
      eprit={2308.03281},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

GTE中文通用文本表示模型 文本表示是自然语言处理(NLP)领域的核心问题, 其在很多NLP、信息检索的下游任务中发挥着非常重要的作用。近几年, 随着深度学习的发展，尤其是预训练语言模型的出现极大的推