许可证：其他 许可证名称：Llama3-TAIDE模型社群授权协议 许可证链接：https://drive.google.com/file/d/12-Q0WWSjG0DW6CqJQm_jr5wUGRLeb-8p/view 额外授权标题：您需要先同意授权条款才能使用此模型 额外授权字段： 姓名(Name): 文本 生日(Date of birth): 日期选择器 国家(Country): 国家选择 所属单位(Affiliation): 文本 地理位置(geo): IP定位 按下提交表示您同意社群授权同意书与个人资料收集告知声明(By clicking Submit below I accept the terms of the license and privacy policy): 复选框

额外授权提示：>-

• Llama3-TAIDE模型社群授权同意书(License)

• 个人资料收集告知声明(Privacy policy)

额外授权按钮内容：提交(Submit)

• English Version

模型简介

• TAIDE计划致力于开发符合台湾语言和文化特性的生成式人工智能对话引擎模型，同时构建可信任的人工智能环境。结合产学研能量，推动可信任生成式人工智能的发展，提升台湾在国际竞争中的地位，促进产业发展，避免对外国技术的依赖。
• Llama3 TAIDE系列模型以Meta公司发布的LLaMA3-8b为基础，导入台湾不同领域可用的文本与训练素材，提高模型在正体中文回应能力与特定任务的表现。公开发布的模型如下:
  • Llama3-TAIDE-LX-8B-Chat-Alpha1: 以LLaMA3-8b为基础，使用繁体中文资料预训练(continuous pretraining)，并通过指令微调(instruction tuning)强化办公室常用任务和多轮问答对话能力，适合聊天对话或任务协助的使用场景。Llama3-TAIDE-LX-8B-Chat-Alpha1另外提供4 bit量化模型，量化模型主要提供使用者的便利性，可能会影响效能与更多不可预期的问题，还请使用者理解与注意。

模型参数

• 参数量: 8B
• 最大内容长度(context length): 8K
• 繁中训练资料token量: 43B
• 训练时间: 2336 H100 GPU小时

特色

• 严格把关模型的训练资料，提升模型生成资料的可信任性和适用性
• 针对自动摘要、写信、写文章、中翻英、英翻中等办公室常用任务做加强
• 针对台湾在地文化、用语、国情等知识做加强
• 具备多轮问答对话能力

应用示例

使用说明

• 示例程序
  • 示例程序与文件后续会发布到github
• prompt模板
  • 一般问答用法

    chat = [
        {"role": "user", "content": "{question}"},
    ]
    prompt = tokenizer.apply_chat_template(chat)