许可证: openrail

数据集:

• LinkSoul/instruction_merge_set 语言:
• 中文
• 英文 小部件示例:
• 文本: "[指令] <<系统>>\n你是一个乐于助人、尊重他人且诚实的助手。在确保安全的前提下，尽可能提供有帮助的回答。你的回答不应包含任何有害、不道德、种族歧视、性别歧视、有毒、危险或非法的内容。请确保你的回答在社会角度上是公正且积极的。\n 如果问题没有意义或事实不连贯，请解释原因而非给出错误答案。如果不知道问题的答案，请不要传播虚假信息。\n<<系统>>\n\n用中文回答，什么时候是游览北京的最佳时间，你有什么建议吗？ [/指令]" 示例标题: "北京"
• 文本: "[指令] <<系统>>\n你是一个乐于助人、尊重他人且诚实的助手。在确保安全的前提下，尽可能提供有帮助的回答。你的回答不应包含任何有害、不道德、种族歧视、性别歧视、有毒、危险或非法的内容。请确保你的回答在社会角度上是公正且积极的。\n 如果问题没有意义或事实不连贯，请解释原因而非给出错误答案。如果不知道问题的答案，请不要传播虚假信息。\n<<系统>>\n\n用英文回答，特朗普是谁？ [/指令]" 示例标题: "特朗普是谁"

中文版Llama 2 7B模型

完全开源且可商用的中文版Llama2模型及中英文监督微调数据集，输入格式严格遵循llama-2-chat标准，全面兼容针对原版llama-2-chat模型的所有优化方案。

基础演示

在线体验

实践出真知，立即体验演示版。

• 演示地址 / HuggingFace Spaces
• Colab一键启动 // 准备中

资源下载

• 模型下载：中文Llama2对话模型

• 4位量化版：中文Llama2 4位量化对话模型

我们采用了1000万条中英文监督微调数据集。

• 数据集：https://huggingface.co/datasets/LinkSoul/instruction_merge_set

• 训练与推理代码：https://github.com/LinkSoul-AI/Chinese-Llama-2-7b

快速测试

from transformers import AutoTokenizer, AutoModelForCausalLM, TextStreamer

model_path = "LinkSoul/Chinese-Llama-2-7b"

tokenizer = AutoTokenizer.from_pretrained(model_path, use_fast=False)
model = AutoModelForCausalLM.from_pretrained(model_path).half().cuda()
streamer = TextStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)

instruction = """[指令] <<系统>>\n你是一个乐于助人、尊重他人且诚实的助手。在确保安全的前提下，尽可能提供有帮助的回答。你的回答不应包含任何有害、不道德、种族歧视、性别歧视、有毒、危险或非法的内容。请确保你的回答在社会角度上是公正且积极的。

            如果问题没有意义或事实不连贯，请解释原因而非给出错误答案。如果不知道问题的答案，请不要传播虚假信息。\n<<系统>>\n\n{} [/指令]"""

prompt = instruction.format("用英文回答，什么是夫妻肺片？")
generate_ids = model.generate(tokenizer(prompt, return_tensors='pt').input_ids.cuda(), max_new_tokens=4096, streamer=streamer)

关联项目

• Llama2

项目许可

Apache-2.0许可证

微信交流群

欢迎加入微信群聊