thumbnail: https://huggingface.co/front/thumbnails/dialogpt.png tags:

• 对话 license: mit

最先进的大规模预训练对话生成模型（DialoGPT）

DialoGPT是一个最先进的大规模预训练的多轮对话响应生成模型。 人工评估结果表明，在单轮对话图灵测试下，DialoGPT生成的响应质量可以与人类响应质量相媲美。 该模型在来自Reddit讨论帖的147M多轮对话数据上进行训练。

• 来自交互环境中的多轮生成示例：

有关预处理、训练和DialoGPT完整细节的信息，请参阅原始DialoGPT仓库

ArXiv论文：https://arxiv.org/abs/1911.00536

如何使用

现在我们可以尝试一下这个模型作为聊天伙伴的表现！

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch


tokenizer = AutoTokenizer.from_pretrained("microsoft/DialoGPT-small")
model = AutoModelForCausalLM.from_pretrained("microsoft/DialoGPT-small")

# 让我们聊5轮
for step in range(5):
	# 编码新的用户输入，添加eos_token，并以Pytorch张量格式返回
	new_user_input_ids = tokenizer.encode(input(">> 用户:") + tokenizer.eos_token, return_tensors='pt')

	# 将新的用户输入token追加到聊天历史中
	bot_input_ids = torch.cat([chat_history_ids, new_user_input_ids], dim=-1) if step > 0 else new_user_input_ids

	# 生成回复，同时将总聊天历史限制为1000个token
	chat_history_ids = model.generate(bot_input_ids, max_length=1000, pad_token_id=tokenizer.eos_token_id)

	# 美观地打印最后的输出token
	print("DialoGPT: {}".format(tokenizer.decode(chat_history_ids[:, bot_input_ids.shape[-1]:][0], skip_special_tokens=True)))

Open LLM Leaderboard 评估结果

详细结果请查看这里