FlagAI 大模型工具包开源项目

我要开发同款
匿名用户2023年06月12日
393阅读

技术信息

开源地址
https://github.com/FlagAI-Open/FlagAI
授权协议
Apache-2.0

作品详情

FlagAI飞智是一个快速、易于使用和可扩展的大模型工具包。目标是支持在多模态的各种下游任务上训练、微调和部署大规模模型。

优点:

可通过API快速下载模型

提供API方便你快速下载模型,并在给定(中/英文)文本上使用这些预训练模型,在从SuperGLUE和CLUE bechmarks收集的广泛使用的数据集上对它们进行微调。

FlagAI现已支持30+主流模型,包括语言模型Aquila,多模态模型 AltCLIP 、文生图模型 AltDiffusio、最高百亿参数的 悟道GLM,EVA-CLIP、Galactica、OPT、BERT、RoBERTa、GPT2、T5、ALM、HuggigfaceTrasformers 等。

仅用十行代码即可进行并行训练

飞智由四个最流行的数据/模型并行库(PyTorch/Deepspeed/Megatro-LM/BMTrai)提供支持,它们之间实现了无缝集成。你可以用不到十行代码来并行你的训练/测试过程。

提供提示学习工具包

FlagAI提供了提示学习(prompt-learig)的工具包,用于少样本学习(few-shotlearig)任务。

尤其擅长中文任务

FlagAI目前支持的模型可以应用于文本分类、信息提取、问答、摘要、文本生成等任务,尤其擅长中文任务。

功能介绍

FlagAI 飞智是一个快速、易于使用和可扩展的大模型工具包。目标是支持在多模态的各种下游任务上训练、微调和部署大规模模型。 优点: 可通过 API 快速下载模型 提供 API 方便你快速下载模...

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论