模型信息

推理功能：关闭
支持语言：

• 英语
• 法语
• 德语
• 西班牙语
• 意大利语
• 葡萄牙语
• 日语
• 韩语
• 中文
• 阿拉伯语

许可证：CC-BY-NC-4.0
库名称：transformers

特殊访问提示：
"提交此表单即表示您同意遵守许可协议，并确认您提供的信息将根据Cohere的隐私政策进行收集、使用和共享。您将收到关于Cohere实验室、研究活动、产品及服务的邮件更新。可随时取消订阅。"

特殊访问字段：
姓名：文本
所属机构：文本
国家/地区：
类型：下拉选择
选项列表：
- 阿鲁巴至津巴布韦（完整国家列表略）

声明条款：
☑ 我同意仅将此模型用于非商业用途

Cohere实验室Command-R模型卡

🚨 此为Cohere实验室Command-R非量化版本。4比特量化版本请访问此处。

模型概述

Cohere实验室Command-R是一个拥有350亿参数的高性能生成模型研究版。该大语言模型具备开放权重，专为推理、摘要和问答等场景优化，支持10种语言的生成能力，并具有卓越的检索增强生成(RAG)性能。

开发团队：Cohere与Cohere实验室
联系方：Cohere实验室
许可证：CC-BY-NC，需同时遵守可接受使用政策
模型名称：c4ai-command-r-v01
参数量：350亿
上下文长度：128K

在线体验
可通过Hugging Face空间直接试用。

使用指南

需使用transformers 4.39.1或更高版本：

# 安装：pip install 'transformers>=4.39.1'
from transformers import AutoTokenizer, AutoModelForCausalLM

model_id = "CohereLabs/c4ai-command-r-v01"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id)

# 使用command-r对话模板格式化消息
messages = [{"role": "user", "content": "你好，最近怎么样？"}]
input_ids = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors="pt")

gen_tokens = model.generate(
    input_ids, 
    max_new_tokens=100, 
    do_sample=True, 
    temperature=0.3,
    )

print(tokenizer.decode(gen_tokens[0]))

8比特量化版本

# 需额外安装：pip install bitsandbytes accelerate
from transformers import BitsAndBytesConfig

bnb_config = BitsAndBytesConfig(load_in_8bit=True)
model = AutoModelForCausalLM.from_pretrained(model_id, quantization_config=bnb_config)

4比特量化版本
请访问此链接获取。

技术细节

输入输出：仅处理文本输入与生成。

架构：采用优化的自回归transformer架构，经过监督微调(SFT)和偏好训练以符合人类价值观。

语言支持：
核心优化语言：英语、法语、西班牙语、意大利语、德语、巴西葡萄牙语、日语、韩语、简体中文、阿拉伯语
预训练包含语言：俄语、波兰语等13种语言（完整列表略）

核心能力

1. 基于证据的生成

• 支持根据文档片段生成带引用的回答
• 提供"精确"（分步生成）和"快速"（直接生成）两种引用模式
• 推荐文档分块大小为100-400词

2. 单步工具调用

• 支持API/数据库/搜索引擎交互
• 包含directly_answer工具用于自主决策
• 提供标准化JSON格式输出

3. 多步工具调用（代理）

• 支持Action→Observation→Reflection循环
• 适用于复杂任务规划场景

4. 代码交互

• 优化代码解释、片段生成与重构
• 建议使用低温参数（或贪婪解码）提升代码生成质量

完整功能模板与示例详见官方文档。

使用条款

本模型采用CC-BY-NC许可，旨在促进全球学术研究。问题反馈请联系labs@cohere.com。

在线体验
访问Cohere Playground直接试用对话功能。