缩略图: https://huggingface.co/front/thumbnails/dialogpt.png
标签:

• 对话式
  许可证: mit

前沿的大规模预训练对话生成模型 (DialoGPT)

DialoGPT 是一个针对多轮对话的前沿大规模预训练对话响应生成模型。
人工评估结果表明，在单轮对话图灵测试中，DialoGPT 生成的响应质量与人类回答相当。
该模型基于 Reddit 讨论线程中的 1.47 亿条多轮对话进行训练。

• 交互环境中的多轮生成示例：

关于数据预处理、训练及 DialoGPT 的完整细节，请参阅原始 DialoGPT 仓库

arXiv 论文：https://arxiv.org/abs/1911.00536

使用方法

现在可以体验模型作为聊天伙伴的效果了！

from transformers import AutoModelForCausalLM, AutoTokenizer  
import torch  

tokenizer = AutoTokenizer.from_pretrained("microsoft/DialoGPT-large")  
model = AutoModelForCausalLM.from_pretrained("microsoft/DialoGPT-large")  

# 进行5轮对话  
for step in range(5):  
    # 对用户输入进行编码，添加eos_token并返回PyTorch张量  
    new_user_input_ids = tokenizer.encode(input(">> 用户:") + tokenizer.eos_token, return_tensors='pt')  

    # 将用户输入添加到对话历史中  
    bot_input_ids = torch.cat([chat_history_ids, new_user_input_ids], dim=-1) if step > 0 else new_user_input_ids  

    # 生成响应，同时限制总对话历史不超过1000个token  
    chat_history_ids = model.generate(bot_input_ids, max_length=1000, pad_token_id=tokenizer.eos_token_id)  

    # 优雅地打印机器人最新输出的token  
    print("DialoGPT: {}".format(tokenizer.decode(chat_history_ids[:, bot_input_ids.shape[-1]:][0], skip_special_tokens=True)))