推理: false
语言:

• 英语
• 法语
• 德语
• 西班牙语
• 意大利语
• 葡萄牙语
• 日语
• 韩语
• 中文
• 阿拉伯语
  许可证: CC-BY-NC-4.0
  库名称: transformers
  额外授权提示: "提交此表单即表示您同意遵守许可协议，并确认您提供的信息将根据Cohere的隐私政策被收集、使用和共享。您将收到关于Cohere实验室及Cohere研究、活动、产品和服务的电子邮件更新。您可以随时取消订阅。"
  额外授权字段:
  姓名: 文本
  所属机构: 文本
  国家:
  类型: 选择
  选项:
  • 阿鲁巴
  • 阿富汗
  • 安哥拉
  • 安圭拉
  • 奥兰群岛
  • 阿尔巴尼亚
  • 安道尔
  • 阿拉伯联合酋长国
  • 阿根廷
  • 亚美尼亚
  • 美属萨摩亚
  • 南极洲
  • 法属南部领地
  • 安提瓜和巴布达
  • 澳大利亚
  • 奥地利
  • 阿塞拜疆
  • 布隆迪
  • 比利时
  • 贝宁
  • 博奈尔、圣尤斯特歇斯和萨巴
  • 布基纳法索
  • 孟加拉国
  • 保加利亚
  • 巴林
  • 巴哈马
  • 波斯尼亚和黑塞哥维那
  • 圣巴泰勒米
  • 白俄罗斯
  • 伯利兹
  • 百慕大
  • 多民族玻利维亚国
  • 巴西
  • 巴巴多斯
  • 文莱达鲁萨兰国
  • 不丹
  • 布韦岛
  • 博茨瓦纳
  • 中非共和国
  • 加拿大
  • 科科斯（基林）群岛
  • 瑞士
  • 智利
  • 中国
  • 科特迪瓦
  • 喀麦隆
  • 刚果民主共和国
  • 库克群岛
  • 哥伦比亚
  • 科摩罗
  • 佛得角
  • 哥斯达黎加
  • 古巴
  • 库拉索
  • 圣诞岛
  • 开曼群岛
  • 塞浦路斯
  • 捷克
  • 德国
  • 吉布提
  • 多米尼克
  • 丹麦
  • 多米尼加共和国
  • 阿尔及利亚
  • 厄瓜多尔
  • 埃及
  • 厄立特里亚
  • 西撒哈拉
  • 西班牙
  • 爱沙尼亚
  • 埃塞俄比亚
  • 芬兰
  • 斐济
  • 福克兰群岛（马尔维纳斯）
  • 法国
  • 法罗群岛
  • 密克罗尼西亚联邦
  • 加蓬
  • 英国
  • 格鲁吉亚
  • 根西岛
  • 加纳
  • 直布罗陀
  • 几内亚
  • 瓜德罗普
  • 冈比亚
  • 几内亚比绍
  • 赤道几内亚
  • 希腊
  • 格林纳达
  • 格陵兰
  • 危地马拉
  • 法属圭亚那
  • 关岛
  • 圭亚那
  • 香港
  • 赫德岛和麦克唐纳群岛
  • 洪都拉斯
  • 克罗地亚
  • 海地
  • 匈牙利
  • 印度尼西亚
  • 马恩岛
  • 印度
  • 英属印度洋领地
  • 爱尔兰
  • 伊朗伊斯兰共和国
  • 伊拉克
  • 冰岛
  • 以色列
  • 意大利
  • 牙买加
  • 泽西岛
  • 约旦
  • 日本
  • 哈萨克斯坦
  • 肯尼亚
  • 吉尔吉斯斯坦
  • 柬埔寨
  • 基里巴斯
  • 圣基茨和尼维斯
  • 韩国
  • 科威特
  • 老挝人民民主共和国
  • 黎巴嫩
  • 利比里亚
  • 利比亚
  • 圣卢西亚
  • 列支敦士登
  • 斯里兰卡
  • 莱索托
  • 立陶宛
  • 卢森堡
  • 拉脱维亚
  • 澳门
  • 法属圣马丁
  • 摩洛哥
  • 摩纳哥
  • 摩尔多瓦共和国
  • 马达加斯加
  • 马尔代夫
  • 墨西哥
  • 马绍尔群岛
  • 北马其顿
  • 马里
  • 马耳他
  • 缅甸
  • 黑山
  • 蒙古
  • 北马里亚纳群岛
  • 莫桑比克
  • 毛里塔尼亚
  • 蒙特塞拉特
  • 马提尼克
  • 毛里求斯
  • 马拉维
  • 马来西亚
  • 马约特
  • 纳米比亚
  • 新喀里多尼亚
  • 尼日尔
  • 诺福克岛
  • 尼日利亚
  • 尼加拉瓜
  • 纽埃
  • 荷兰
  • 挪威
  • 尼泊尔
  • 瑙鲁
  • 新西兰
  • 阿曼
  • 巴基斯坦
  • 巴拿马
  • 皮特凯恩
  • 秘鲁
  • 菲律宾
  • 帕劳
  • 巴布亚新几内亚
  • 波兰
  • 波多黎各
  • 朝鲜
  • 葡萄牙
  • 巴拉圭
  • 巴勒斯坦国
  • 法属波利尼西亚
  • 卡塔尔
  • 留尼汪
  • 罗马尼亚
  • 俄罗斯
  • 卢旺达
  • 沙特阿拉伯
  • 苏丹
  • 塞内加尔
  • 新加坡
  • 南乔治亚和南桑威奇群岛
  • 圣赫勒拿、阿森松和特里斯坦-达库尼亚
  • 斯瓦尔巴和扬马延
  • 所罗门群岛
  • 塞拉利昂
  • 萨尔瓦多
  • 圣马力诺
  • 索马里
  • 圣皮埃尔和密克隆
  • 塞尔维亚
  • 南苏丹
  • 圣多美和普林西比
  • 苏里南
  • 斯洛伐克
  • 斯洛文尼亚
  • 瑞典
  • 斯威士兰
  • 荷属圣马丁
  • 塞舌尔
  • 叙利亚阿拉伯共和国
  • 特克斯和凯科斯群岛
  • 乍得
  • 多哥
  • 泰国
  • 塔吉克斯坦
  • 托克劳
  • 土库曼斯坦
  • 东帝汶
  • 汤加
  • 特立尼达和多巴哥
  • 突尼斯
  • 土耳其
  • 图瓦卢
  • 台湾
  • 坦桑尼亚联合共和国
  • 乌干达
  • 乌克兰
  • 美国本土外小岛屿
  • 乌拉圭
  • 美国
  • 乌兹别克斯坦
  • 梵蒂冈城国
  • 圣文森特和格林纳丁斯
  • 委内瑞拉玻利瓦尔共和国
  • 英属维尔京群岛
  • 美属维尔京群岛
  • 越南
  • 瓦努阿图
  • 瓦利斯和富图纳
  • 萨摩亚
  • 也门
  • 南非
  • 赞比亚
  • 津巴布韦

我同意仅将此模型用于非商业用途: 复选框

C4AI Command R 08-2024模型卡

模型概述

Cohere实验室Command R 08-2024是一款研究发布的320亿参数高性能生成模型。该模型是一个大语言模型，具有开放权重，优化了推理、摘要和问答等多种用途。Command R 08-2024支持多语言生成，训练涵盖23种语言，并在10种语言中进行了评估，具备卓越的RAG（检索增强生成）能力。

开发团队: Cohere及Cohere实验室

• 联系方式: Cohere实验室
• 许可证: CC-BY-NC，需同时遵守Cohere实验室可接受使用政策
• 模型名称: c4ai-command-r-08-2024
• 参数量: 320亿
• 上下文长度: 128K

试用Cohere实验室Command R
若需在下载权重前试用，模型托管于Hugging Face空间此处。

使用方法
请使用transformers库4.39.1或更高版本：

# pip install 'transformers>=4.39.1'
from transformers import AutoTokenizer, AutoModelForCausalLM

model_id = "CohereLabs/c4ai-command-r-08-2024"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id)

# 使用command-r-08-2024对话模板格式化消息
messages = [{"role": "user", "content": "你好，最近怎么样？"}]
input_ids = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors="pt")
## <BOS_TOKEN><|START_OF_TURN_TOKEN|><|USER_TOKEN|>你好，最近怎么样？<|END_OF_TURN_TOKEN|><|START_OF_TURN_TOKEN|><|CHATBOT_TOKEN|>

gen_tokens = model.generate(
    input_ids, 
    max_new_tokens=100, 
    do_sample=True, 
    temperature=0.3,
)

gen_text = tokenizer.decode(gen_tokens[0])
print(gen_text)

模型详情

输入: 仅接受文本输入。
输出: 仅生成文本。
架构: 采用优化Transformer架构的自回归语言模型。通过监督微调(SFT)和偏好训练对齐人类对帮助性与安全性的偏好。使用分组查询注意力(GQA)提升推理速度。
支持语言: 训练涵盖23种语言（含英语、法语、西班牙语、意大利语、德语、葡萄牙语、日语、韩语、阿拉伯语、简体中文等），评估覆盖10种语言。
上下文长度: 128K。

基于证据的生成与RAG能力

Command R 08-2024专门训练了基于证据的生成能力，可根据提供的文档片段生成带引用标记的响应，支持检索增强生成(RAG)的最后一步。该能力通过特定提示模板实现，偏离模板可能影响性能。

单步工具调用（"函数调用"）

支持通过JSON格式调用外部工具（如API、数据库），包含工具选择与参数生成两个步骤。模型可识别directly_answer工具表示无需调用其他工具。

多步工具调用（"智能体"）

适用于需多轮交互的复杂任务，支持"行动→观察→反思"循环直至生成最终响应。相关模板即将在HuggingFace发布。

代码能力

优化了代码片段生成、解释及重写功能，建议低温度（甚至贪婪解码）以获得更佳代码生成效果。

联系方式

如有模型卡相关问题，请联系labs@cohere.com

使用条款

本模型遵循CC-BY-NC许可及可接受使用政策，旨在促进全球研究社区对高性能320亿参数模型的访问。

在线体验

可在此处试用Command-R聊天功能。

引用

引用格式：

@misc{cohere_for_ai_2024,
    author       = { {Cohere Labs} },
    title        = { c4ai-command-r-08-2024 },
    year         = 2024,
    url          =