许可证：cc-by-nc-4.0
推理：禁用
库名称：transformers
语言：

• 英语
• 法语
• 德语
• 西班牙语
• 意大利语
• 葡萄牙语
• 日语
• 韩语
• 中文
• 阿拉伯语

额外授权提示：
"提交此表单即表示您同意许可协议，并确认您提供的信息将根据Cohere的隐私政策进行收集、使用和共享。您将收到关于Cohere Labs和Cohere研究、活动、产品及服务的电子邮件更新。您可以随时取消订阅。"

额外授权字段：
姓名：文本
所属机构：文本
国家：
类型：选择
选项：

• 阿鲁巴
• 阿富汗
• 安哥拉
• 安圭拉
• 奥兰群岛
• 阿尔巴尼亚
• 安道尔
• 阿拉伯联合酋长国
• 阿根廷
• 亚美尼亚
• 美属萨摩亚
• 南极洲
• 法属南部领地
• 安提瓜和巴布达
• 澳大利亚
• 奥地利
• 阿塞拜疆
• 布隆迪
• 比利时
• 贝宁
• 博奈尔、圣尤斯特歇斯和萨巴
• 布基纳法索
• 孟加拉国
• 保加利亚
• 巴林
• 巴哈马
• 波斯尼亚和黑塞哥维那
• 圣巴泰勒米
• 白俄罗斯
• 伯利兹
• 百慕大
• 多民族玻利维亚国
• 巴西
• 巴巴多斯
• 文莱达鲁萨兰国
• 不丹
• 布韦岛
• 博茨瓦纳
• 中非共和国
• 加拿大
• 科科斯（基林）群岛
• 瑞士
• 智利
• 中国
• 科特迪瓦
• 喀麦隆
• 刚果民主共和国
• 库克群岛
• 哥伦比亚
• 科摩罗
• 佛得角
• 哥斯达黎加
• 古巴
• 库拉索
• 圣诞岛
• 开曼群岛
• 塞浦路斯
• 捷克
• 德国
• 吉布提
• 多米尼克
• 丹麦
• 多米尼加共和国
• 阿尔及利亚
• 厄瓜多尔
• 埃及
• 厄立特里亚
• 西撒哈拉
• 西班牙
• 爱沙尼亚
• 埃塞俄比亚
• 芬兰
• 斐济
• 福克兰群岛（马尔维纳斯）
• 法国
• 法罗群岛
• 密克罗尼西亚联邦
• 加蓬
• 英国
• 格鲁吉亚
• 根西岛
• 加纳
• 直布罗陀
• 几内亚
• 瓜德罗普
• 冈比亚
• 几内亚比绍
• 赤道几内亚
• 希腊
• 格林纳达
• 格陵兰
• 危地马拉
• 法属圭亚那
• 关岛
• 圭亚那
• 香港
• 赫德岛和麦克唐纳群岛
• 洪都拉斯
• 克罗地亚
• 海地
• 匈牙利
• 印度尼西亚
• 马恩岛
• 印度
• 英属印度洋领地
• 爱尔兰
• 伊朗伊斯兰共和国
• 伊拉克
• 冰岛
• 以色列
• 意大利
• 牙买加
• 泽西岛
• 约旦
• 日本
• 哈萨克斯坦
• 肯尼亚
• 吉尔吉斯斯坦
• 柬埔寨
• 基里巴斯
• 圣基茨和尼维斯
• 韩国
• 科威特
• 老挝人民民主共和国
• 黎巴嫩
• 利比里亚
• 利比亚
• 圣卢西亚
• 列支敦士登
• 斯里兰卡
• 莱索托
• 立陶宛
• 卢森堡
• 拉脱维亚
• 澳门
• 法属圣马丁
• 摩洛哥
• 摩纳哥
• 摩尔多瓦共和国
• 马达加斯加
• 马尔代夫
• 墨西哥
• 马绍尔群岛
• 北马其顿
• 马里
• 马耳他
• 缅甸
• 黑山
• 蒙古
• 北马里亚纳群岛
• 莫桑比克
• 毛里塔尼亚
• 蒙特塞拉特
• 马提尼克
• 毛里求斯
• 马拉维
• 马来西亚
• 马约特
• 纳米比亚
• 新喀里多尼亚
• 尼日尔
• 诺福克岛
• 尼日利亚
• 尼加拉瓜
• 纽埃
• 荷兰
• 挪威
• 尼泊尔
• 瑙鲁
• 新西兰
• 阿曼
• 巴基斯坦
• 巴拿马
• 皮特凯恩
• 秘鲁
• 菲律宾
• 帕劳
• 巴布亚新几内亚
• 波兰
• 波多黎各
• 朝鲜
• 葡萄牙
• 巴拉圭
• 巴勒斯坦国
• 法属波利尼西亚
• 卡塔尔
• 留尼汪
• 罗马尼亚
• 俄罗斯
• 卢旺达
• 沙特阿拉伯
• 苏丹
• 塞内加尔
• 新加坡
• 南乔治亚和南桑威奇群岛
• 圣赫勒拿、阿森松和特里斯坦-达库尼亚
• 斯瓦尔巴和扬马延
• 所罗门群岛
• 塞拉利昂
• 萨尔瓦多
• 圣马力诺
• 索马里
• 圣皮埃尔和密克隆
• 塞尔维亚
• 南苏丹
• 圣多美和普林西比
• 苏里南
• 斯洛伐克
• 斯洛文尼亚
• 瑞典
• 斯威士兰
• 荷属圣马丁
• 塞舌尔
• 阿拉伯叙利亚共和国
• 特克斯和凯科斯群岛
• 乍得
• 多哥
• 泰国
• 塔吉克斯坦
• 托克劳
• 土库曼斯坦
• 东帝汶
• 汤加
• 特立尼达和多巴哥
• 突尼斯
• 土耳其
• 图瓦卢
• 台湾
• 坦桑尼亚联合共和国
• 乌干达
• 乌克兰
• 美国本土外小岛屿
• 乌拉圭
• 美国
• 乌兹别克斯坦
• 梵蒂冈城国
• 圣文森特和格林纳丁斯
• 委内瑞拉玻利瓦尔共和国
• 英属维尔京群岛
• 美属维尔京群岛
• 越南
• 瓦努阿图
• 瓦利斯和富图纳
• 萨摩亚
• 也门
• 南非
• 赞比亚
• 津巴布韦

我同意仅将此模型用于非商业用途：复选框

Cohere Labs Command R+ 08-2024 模型卡

模型概述

Cohere Labs Command R+ 08-2024 是一个开放权重的1040亿参数研究版本模型，具备高度先进的能力，包括检索增强生成（RAG）和工具使用以自动化复杂任务。该模型支持多步骤工具使用，能够结合多种工具分步完成困难任务。Command R+ 08-2024 是一个多语言模型，训练覆盖23种语言，并在10种语言中进行了评估。该模型针对推理、摘要和问答等多种用例进行了优化。

Command R+ 08-2024 是Cohere Labs和Cohere开放权重发布系列的一部分。我们的较小配套模型是Cohere Labs Command R 08-2024。

• 联系点：Cohere Labs
• 许可证：CC-BY-NC，同时需遵守Cohere Labs的可接受使用政策
• 模型：coherelabs-command-r-plus-08-2024
• 模型大小：1040亿参数
• 上下文长度：128K

试用Cohere Labs Command R+

在下载权重之前，您可以在我们的托管Hugging Face Space中试用Cohere Labs Command R+。

使用方法

请使用transformers版本4.39.1或更高版本

# pip install 'transformers>=4.39.1'  
from transformers import AutoTokenizer, AutoModelForCausalLM  

model_id = "CohereLabs/c4ai-command-r-plus-08-2024"  
tokenizer = AutoTokenizer.from_pretrained(model_id)  
model = AutoModelForCausalLM.from_pretrained(model_id)  

# 使用command-r-plus-08-2024聊天模板格式化消息  
messages = [{"role": "user", "content": "Hello, how are you?"}]  
input_ids = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors="pt")  
## <BOS_TOKEN><|START_OF_TURN_TOKEN|><|USER_TOKEN|>Hello, how are you?<|END_OF_TURN_TOKEN|><|START_OF_TURN_TOKEN|><|CHATBOT_TOKEN|>  

gen_tokens = model.generate(  
    input_ids,   
    max_new_tokens=100,   
    do_sample=True,   
    temperature=0.3,  
    )  

gen_text = tokenizer.decode(gen_tokens[0])  
print(gen_text)  

模型详情

输入：模型仅输入文本。

输出：模型仅生成文本。

模型架构：这是一个自回归语言模型，使用了优化的transformer架构。在预训练后，该模型通过监督微调（SFT）和偏好训练来对齐人类对帮助性和安全性的偏好。我们使用分组查询注意力（GQA）来提高推理速度。

覆盖语言：模型训练覆盖23种语言（英语、法语、西班牙语、意大利语、德语、葡萄牙语、日语、韩语、阿拉伯语、简体中文、俄语、波兰语、土耳其语、越南语、荷兰语、捷克语、印尼语、乌克兰语、罗马尼亚语、希腊语、印地语、希伯来语和波斯语），并在10种语言（英语、法语、西班牙语、意大利语、德语、葡萄牙语、日语、韩语、阿拉伯语、简体中文）中进行了评估。

上下文长度：Command R+ 08-2024 支持128K的上下文长度。

基于文档的生成和RAG能力

Command R+ 08-2024 专门训练了基于文档的生成能力。这意味着它可以根据提供的文档片段列表生成响应，并在响应中包含引用标记（引用）以指示信息来源。这可以用于实现基于文档的摘要和检索增强生成（RAG）的最后一步。这种行为通过监督微调和偏好微调的混合训练实现，使用了特定的提示模板。偏离此提示模板可能会降低性能，但我们鼓励实验。

Command R+ 08-2024 的基于文档生成行为接受一个对话输入（带有可选的用户系统前导，指示任务、上下文和期望的输出风格）以及一个检索到的文档片段列表。文档片段应该是块状而非长文档，通常每块约100-400字。文档片段由键值对组成，