大规模中文理解和生成联合模型PLUG

PLUG (Pre-training for Language Understanding and Generation) 是一个270亿参数的大规模中文理解和生成联合预训练模型。

模型描述

PLUG是有海量高质量中文文本预训练得到的理解和生成联合模型。PLUG的训练由两阶段组成。首先我们训练了一个24层的基于StructBERT的encoder，然后我们基于此训练了一个24+6层的PALM encoder-decoder。这使得模型既可以通过finetune来处理文本分类、序列标注等自然语言理解（NLU）任务，也可以用来处理自然语言生成（NLG）的任务。

PLUG architecture

期望模型使用方式以及适用范围

本模型可直接用于文本生成，也可以通过finetune用于各类文本理解的任务。用户可以自行尝试各种输入文档。具体调用方式请参考代码示例。

如何使用

在安装完成ModelScope-lib之后即可使用PLUG的能力。

代码范例

此范例为单机8卡(GPU)示例，运行时每张GPU约占用显存12G。

通过model_id获取默认model_dir

from modelscope.hub.snapshot_download import snapshot_download
model_id = 'damo/nlp_plug_knowledge-based-question-generation_27B'
model_dir = snapshot_download(model_id)
print(model_dir)

将模型二进制文件下载至model_dir/model，下载地址获取：https://github.com/alibaba/AliceMind/tree/main/PLUG#pre-trained-model-download
模型调用

from modelscope.pipelines import pipeline
from modelscope.utils.constant import Tasks

input = '《鲁迅全集》 ||| 出版时间 ||| 1981年'
model_id = 'damo/nlp_plug_knowledge-based-question-generation_27B'
pipe = pipeline(Tasks.text_generation, model=model_id)

# out_length为期望的生成长度，最大为512
result = pipe(input, out_length=256)
print(result)

# 预期输出：output: {'text': '请问《鲁迅全集》是什么时候出版的？大家知道《鲁迅全集》是什么时候出版的吗？'}