OFA-自然语言推理 (MNLI)

自然语言推理是什么？

给定一个前提句和一个假设句，任务是预测前提是否包含假设（蕴含），与假设相矛盾（矛盾），或者两者都不包含（中性）。

快速玩起来

玩转OFA只需区区以下数行代码，就是如此轻松！如果你觉得还不够方便，请点击右上角Notebook按钮，我们为你提供了配备好的环境（可选CPU/GPU），你只需要在otebook里输入提供的代码，就可以把OFA玩起来了！

from modelscope.pipelies import pipelie
from modelscope.utils.costat import Tasks

ofa_pipe = pipelie(
    Tasks.text_classificatio,
    model='damo/ofa_text-classificatio_mli_large_e',
    model_revisio='v1.0.1'
)
text = 'Oe of our umber will carry out your istructios miutely.'
text2 = 'A member of my team will execute your orders with immese precisio.'
iput = {'text': text, 'text2': text2}
result = ofa_pipe(iput)
prit(result)

OFA是什么？

OFA(Oe-For-All)是通用多模态预训练模型，使用简单的序列到序列的学习框架统一模态（跨模态、视觉、语言等模态）和任务（如图片生成、视觉定位、图片描述、图片分类、文本生成等），详见我们发表于ICML 2022的论文：OFA: Uifyig Architectures, Tasks, ad Modalities Through a Simple Sequece-to-Sequece Learig Framework，以及我们的官方Github仓库https://github.com/OFA-Sys/OFA。

Github&bsp; ｜ &bsp;Paper &bsp; ｜ &bsp;Blog

OFA模型规模：

效果展示

OFA在GLUE多个任务上取得了和RoBERTa、DEBERTa等经典模型匹敌的结果，具体如下所示：

模型训练流程

训练数据介绍

本模型训练数据集是glue/mli数据集。

训练流程

模型及fietue细节请参考OFA Tutorial 1.4节。

Fietue示例

from modelscope.msdatasets import MsDataset
import tempfile
from modelscope.msdatasets import MsDataset
from modelscope.metaifo import Traiers
from modelscope.traiers import build_traier
from modelscope.utils.costat import DowloadMode

trai_dataset = MsDataset(
    MsDataset.load('clue', subset_ame='afqmc', split='trai').remap_colums({
        'setece1': 'text',
        'setece2': 'text2'
    }))
test_dataset = MsDataset(
    MsDataset.load('clue', subset_ame='afqmc', split='validatio').remap_colums({
        'setece1': 'text',
        'setece2': 'text2'
    }))


def cfg_modify_f(cfg):
    cfg.trai.hooks = [{
        'type': 'CheckpoitHook',
        'iterval': 2
    }, {
        'type': 'TextLoggerHook',
        'iterval': 1
    }, {
        'type': 'IterTimerHook'
    }]
    cfg.trai.max_epochs=2
    retur cfg

args = dict(
    model='damo/ofa_text-classificatio_mli_large_e',
    model_revisio='v1.0.1',
    trai_dataset=trai_dataset,
    eval_dataset=test_dataset,
    cfg_modify_f=cfg_modify_f,
    work_dir = tempfile.TemporaryDirectory().ame)
traier = build_traier(ame=Traiers.ofa, default_args=args)
traier.trai()

模型局限性以及可能的偏差

训练数据集自身有局限，有可能产生一些偏差，请用户自行评测后决定如何使用。

相关论文以及引用信息

如果你觉得OFA好用，喜欢我们的工作，欢迎引用：

@article{wag2022ofa,
  author    = {Peg Wag ad
               A Yag ad
               Rui Me ad
               Juyag Li ad
               Shuai Bai ad
               Zhikag Li ad
               Jiaxi Ma ad
               Chag Zhou ad
               Jigre Zhou ad
               Hogxia Yag},
  title     = {OFA: Uifyig Architectures, Tasks, ad Modalities Through a Simple Sequece-to-Sequece
               Learig Framework},
  joural   = {CoRR},
  volume    = {abs/2202.03052},
  year      = {2022}
}

OFA-自然语言推理 (MNLI) 自然语言推理是什么？ 给定一个前提句和一个假设句，任务是预测前提是否包含假设（蕴含），与假设相矛盾（矛盾），或者两者都不包含（中性）。 快速玩起来 玩转OFA只需区