模型卡元数据参考规范：https://github.com/huggingface/hub-docs/blob/main/modelcard.md?plain=1

文档指南：https://huggingface.co/docs/hub/model-cards

许可证：apache-2.0 语言：

• 中文 小部件示例：
• 文本：>- 一位好奇用户与人工智能助手之间的对话。助手对用户的问题提供有用、详细且礼貌的回答。 用户：你好，请问你可以帮我写一封推荐信吗？助手： 库名称：transformers 管道标签：文本生成 推理支持：false 量化者：audreyt

Taiwan-LLM-13B-v2.0-chat-GGUF - GGUF格式

• 模型创建者：Yen-Ting Lin
• 原始模型：Taiwan-LLM-13B-v2.0-chat

模型说明

本仓库包含Yen-Ting Lin开发的基于LLaMa2-13b的台湾大语言模型的GGUF格式模型文件。

任何使用Taiwan LLM仓库的行为都必须明确承认并归功于原始作者。

关于GGUF格式

GGUF是llama.cpp团队于2023年8月21日推出的新格式，用于取代不再受支持的GGML格式。

GGUF的关键优势在于其可扩展性和前瞻性，能够以元数据形式存储更多模型信息。该格式还包含显著改进的分词代码，首次全面支持特殊标记。这将提升模型性能，特别是对于使用新特殊标记和自定义提示模板的模型。

截至8月25日，已知支持GGUF的客户端和库包括：

• llama.cpp
• text-generation-webui - 最流行的Web UI，通过ctransformers后端支持GPU加速
• KoboldCpp - 1.41版本起支持GGUF，功能强大的GGML Web UI
• LM Studio - 0.2.2及以上版本支持GGUF
• LoLLMS Web UI - 选择c_transformers后端即可使用
• ctransformers - 0.2.24版本起支持GGUF
• llama-cpp-python - 0.1.79版本起支持GGUF
• candle - 8月22日添加GGUF支持

原始模型卡

🌟 体验新版Taiwan-LLM演示聊天界面 🌟

基于LLaMa2-13b的台湾大语言模型

在200亿繁体中文token上继续预训练，并在数百万对话上进行指令微调。

此版本不包含CommonCrawl数据。

与Ubitus K.K.的合作 💪💪💪

本项目与Ubitus K.K.合作开展。Ubitus为本项目提供了宝贵的技术支持和计算资源。