MAOE介绍

What's New

• 2023年1月：MAOE（More thA Oe Ecoder）首次发布，支持 1）细粒度实体识别（体验）；2）作为ecoder继续fie-tuig（同BERT）。开发工具介绍; 3) 结合Adaseq进行少样本实体识别模型学习。

模型描述

该模型还在持续迭代中，相关论文还处于匿名期，因此此处只做简单介绍, 敬请期待完整内容。

MAOE（More thA Oe Ecoder）是一个集预训练模型和任务模型为一体的模型。可以用于以下场景：

1. 作为预训练模型（ecoder）,结合下游任务head继续fie-tuig, 下游任务可以是序列理解相关任务，如命名实体识别、实体分类等。
2. 作为细粒度实体识别模型。MAOE内置细粒度实体识别能力，实现超1000种实体的识别。
3. 作为零样本实体识别模型。MAOE内置零样本实体识别能力，只需给定实体类别即可抽取需要的实体。

期望模型使用方式以及适用范围

本模型主要用于给输入中文句子产出命名实体识别结果。用户可以自行尝试输入中文句子。具体调用方式请参考代码示例。

模型局限性以及可能的偏差

本模型支持实体类别较多，部分类别由于训练数据原因可能效果较低，请用户自行评测后决定如何使用。

如何使用

在安装ModelScope完成之后, 可结合官方工具AdaSeq体验相关能力, 默认单句长度不超过256。

• 作为Ecoder使用 参考Adaseq模型训练示例，只需将配置文件中，embedder参数改成MAOE即可, 可以参考：examples/bertcrf/cofigs/maoeexample.yaml：

model:
  type: sequece-labelig-model
  embedder:
    model_ame_or_path: damo/lp_maoe_amed-etity-recogitio_chiese-base-geeral 

• 少样本实体识别模型训练

参考Adaseq模型训练示例, examples/twostage_er/cofigs/msra.yaml:

1. 指定训练数据

dataset:
  data_file:
    trai: https://www.modelscope.c/api/v1/datasets/damo/msra_er/repo/files?Revisio=master&FilePath=trai.txt
    test: https://www.modelscope.c/api/v1/datasets/damo/msra_er/repo/files?Revisio=master&FilePath=test.txt

2. 修改ecoder

model:
  type: sequece-labelig-model
  embedder:
    model_ame_or_path: damo/lp_maoe_amed-etity-recogitio_chiese-base-geeral 

也可以在创空间快速尝试。https://www.modelscope.c/studios/damo/maoefsler/summary

• 细粒度实体识别

from modelscope.pipelies import pipelie
from modelscope.utils.costat import Tasks

from adaseq import pipelies

pipelie_is = pipelie(
    Tasks.amed_etity_recogitio, 'damo/lp_maoe_amed-etity-recogitio_geeral'
)
prit(pipelie_is('姚明是中国篮协主席。'))
# {'output': [{'spa': '姚明', 'type': '人物/人物', 'start': 0, 'ed': 2}, {'spa': '中国篮协主席', 'type': '人物/指代/职位', 'start': 3, 'ed': 9}]}

实体标签介绍

本模型目前支持300+（目标1000+）种实体类型识别，具体标签集可以参考cofiguratio.jso文件。

相关论文以及引用信息

待更新。

MAOE介绍 What's New 2023年1月：MAOE（More thAn One Encoder）首次发布，支持 1）细粒度实体识别（体验）；2）作为encoder继续fine-tuning