推理: false
许可证: cc-by-nc-4.0
库名称: transformers
支持语言:
- 英语
- 法语
- 德语
- 西班牙语
- 意大利语
- 葡萄牙语
- 日语
- 韩语
- 中文
- 阿拉伯语
额外访问提示:
提交此表单即表示您同意遵守许可协议，并确认您提供的信息将根据Cohere的隐私政策被收集、使用和共享。您将收到关于Cohere Labs及Cohere研究、活动、产品和服务的邮件更新。您可随时取消订阅。
额外访问字段:
姓名: 文本
所属机构: 文本
国家/地区:
类型: 下拉选择
选项:
- 阿鲁巴
- 阿富汗
- 安哥拉
- 安圭拉
- 奥兰群岛
- 阿尔巴尼亚
- 安道尔
- 阿拉伯联合酋长国
- 阿根廷
- 亚美尼亚
- 美属萨摩亚
- 南极洲
- 法属南部领地
- 安提瓜和巴布达
- 澳大利亚
- 奥地利
- 阿塞拜疆
- 布隆迪
- 比利时
- 贝宁
- 博奈尔、圣尤斯特歇斯和萨巴
- 布基纳法索
- 孟加拉国
- 保加利亚
- 巴林
- 巴哈马
- 波斯尼亚和黑塞哥维那
- 圣巴泰勒米
- 白俄罗斯
- 伯利兹
- 百慕大
- 多民族玻利维亚国
- 巴西
- 巴巴多斯
- 文莱达鲁萨兰国
- 不丹
- 布韦岛
- 博茨瓦纳
- 中非共和国
- 加拿大
- 科科斯（基林）群岛
- 瑞士
- 智利
- 中国
- 科特迪瓦
- 喀麦隆
- 刚果民主共和国
- 库克群岛
- 哥伦比亚
- 科摩罗
- 佛得角
- 哥斯达黎加
- 古巴
- 库拉索
- 圣诞岛
- 开曼群岛
- 塞浦路斯
- 捷克
- 德国
- 吉布提
- 多米尼克
- 丹麦
- 多米尼加共和国
- 阿尔及利亚
- 厄瓜多尔
- 埃及
- 厄立特里亚
- 西撒哈拉
- 西班牙
- 爱沙尼亚
- 埃塞俄比亚
- 芬兰
- 斐济
- 福克兰群岛（马尔维纳斯）
- 法国
- 法罗群岛
- 密克罗尼西亚联邦
- 加蓬
- 英国
- 格鲁吉亚
- 根西岛
- 加纳
- 直布罗陀
- 几内亚
- 瓜德罗普
- 冈比亚
- 几内亚比绍
- 赤道几内亚
- 希腊
- 格林纳达
- 格陵兰
- 危地马拉
- 法属圭亚那
- 关岛
- 圭亚那
- 香港
- 赫德岛和麦克唐纳群岛
- 洪都拉斯
- 克罗地亚
- 海地
- 匈牙利
- 印度尼西亚
- 马恩岛
- 印度
- 英属印度洋领地
- 爱尔兰
- 伊朗伊斯兰共和国
- 伊拉克
- 冰岛
- 以色列
- 意大利
- 牙买加
- 泽西岛
- 约旦
- 日本
- 哈萨克斯坦
- 肯尼亚
- 吉尔吉斯斯坦
- 柬埔寨
- 基里巴斯
- 圣基茨和尼维斯
- 韩国
- 科威特
- 老挝人民民主共和国
- 黎巴嫩
- 利比里亚
- 利比亚
- 圣卢西亚
- 列支敦士登
- 斯里兰卡
- 莱索托
- 立陶宛
- 卢森堡
- 拉脱维亚
- 澳门
- 法属圣马丁
- 摩洛哥
- 摩纳哥
- 摩尔多瓦共和国
- 马达加斯加
- 马尔代夫
- 墨西哥
- 马绍尔群岛
- 北马其顿
- 马里
- 马耳他
- 缅甸
- 黑山
- 蒙古
- 北马里亚纳群岛
- 莫桑比克
- 毛里塔尼亚
- 蒙特塞拉特
- 马提尼克
- 毛里求斯
- 马拉维
- 马来西亚
- 马约特
- 纳米比亚
- 新喀里多尼亚
- 尼日尔
- 诺福克岛
- 尼日利亚
- 尼加拉瓜
- 纽埃
- 荷兰
- 挪威
- 尼泊尔
- 瑙鲁
- 新西兰
- 阿曼
- 巴基斯坦
- 巴拿马
- 皮特凯恩
- 秘鲁
- 菲律宾
- 帕劳
- 巴布亚新几内亚
- 波兰
- 波多黎各
- 朝鲜
- 葡萄牙
- 巴拉圭
- 巴勒斯坦国
- 法属波利尼西亚
- 卡塔尔
- 留尼汪
- 罗马尼亚
- 俄罗斯
- 卢旺达
- 沙特阿拉伯
- 苏丹
- 塞内加尔
- 新加坡
- 南乔治亚和南桑威奇群岛
- 圣赫勒拿、阿森松和特里斯坦-达库尼亚
- 斯瓦尔巴和扬马延
- 所罗门群岛
- 塞拉利昂
- 萨尔瓦多
- 圣马力诺
- 索马里
- 圣皮埃尔和密克隆
- 塞尔维亚
- 南苏丹
- 圣多美和普林西比
- 苏里南
- 斯洛伐克
- 斯洛文尼亚
- 瑞典
- 斯威士兰
- 荷属圣马丁
- 塞舌尔
- 阿拉伯叙利亚共和国
- 特克斯和凯科斯群岛
- 乍得
- 多哥
- 泰国
- 塔吉克斯坦
- 托克劳
- 土库曼斯坦
- 东帝汶
- 汤加
- 特立尼达和多巴哥
- 突尼斯
- 土耳其
- 图瓦卢
- 台湾
- 坦桑尼亚联合共和国
- 乌干达
- 乌克兰
- 美国本土外小岛屿
- 乌拉圭
- 美国
- 乌兹别克斯坦
- 梵蒂冈城国
- 圣文森特和格林纳丁斯
- 委内瑞拉玻利瓦尔共和国
- 英属维尔京群岛
- 美属维尔京群岛
- 越南
- 瓦努阿图
- 瓦利斯和富图纳
- 萨摩亚
- 也门
- 南非
- 赞比亚
- 津巴布韦
我同意仅将此模型用于非商业用途: 复选框
新版本: CohereLabs/c4ai-command-r-plus-08-2024
Cohere Labs Command R+ 模型卡
🚨 此模型是Cohere Labs Command R+的非量化版本。您可以在此处找到使用bitsandbytes量化的4位版本。
模型概述
Cohere Labs Command R+ 是一个开放权重的1040亿参数研究版本模型，具备高度先进的能力，包括检索增强生成（RAG）和工具使用以自动化复杂任务。该模型支持多步工具使用，能够结合多种工具分步完成困难任务。Command R+ 是一个多语言模型，支持10种语言的性能评估：英语、法语、西班牙语、意大利语、德语、巴西葡萄牙语、日语、韩语、阿拉伯语和简体中文。Command R+ 针对推理、摘要和问答等多种用例进行了优化。
Command R+ 是Cohere Labs和Cohere开放权重版本系列的一部分。我们的较小伴随模型是Cohere Labs Command R。
开发团队: Cohere 和 Cohere Labs
试用Cohere Labs Command R+
您可以在下载权重前，通过我们的托管Hugging Face Space试用Command R+。
使用方法
请安装包含此模型必要更改的transformers源码库。
from transformers import AutoTokenizer, AutoModelForCausalLM
model_id = "CohereLabs/c4ai-command-r-plus"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id)
messages = [{"role": "user", "content": "你好，最近怎么样？"}]
input_ids = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors="pt")
gen_tokens = model.generate(
input_ids,
max_new_tokens=100,
do_sample=True,
temperature=0.3,
)
gen_text = tokenizer.decode(gen_tokens[0])
print(gen_text)
通过bitsandbytes量化的8位精度模型
from transformers import AutoTokenizer, AutoModelForCausalLM, BitsAndBytesConfig
bnb_config = BitsAndBytesConfig(load_in_8bit=True)
model_id = "CohereLabs/c4ai-command-r-plus"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, quantization_config=bnb_config)
messages = [{"role": "user", "content": "你好，最近怎么样？"}]
input_ids = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors="pt")
gen_tokens = model.generate(
input_ids,
max_new_tokens=100,
do_sample=True,
temperature=0.3,
)
gen_text = tokenizer.decode(gen_tokens[0])
print(gen_text)
**通过bitsandbytes量化的4位
Transformers%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20none;%20}%20.st1%20{%20fill:%20%235ce6cf;%20}%20.st2%20{%20fill:%20%230080ff;%20}%20.st3%20{%20clip-path:%20url(%23clippath);%20}%20%3c/style%3e%3cclipPath%20id='clippath'%3e%3crect%20class='st0'%20y='0'%20width='120'%20height='32'/%3e%3c/clipPath%3e%3c/defs%3e%3cg%20class='st3'%3e%3cg%3e%3cpath%20class='st1'%20d='M22.4,32H3.2c-1,0-2-.5-2.6-1.4-.6-.9-.7-2-.4-2.9L9.8,2.1C10.3.8,11.5,0,12.8,0s2.5.8,3,2.1l9.6,25.6c.4,1,.2,2.1-.4,2.9-.6.9-1.6,1.4-2.6,1.4ZM7.8,25.6h10l-5-13.3-5,13.3Z'/%3e%3cpath%20class='st2'%20d='M33.6,32c-1.3,0-2.5-.8-3-2.1L21,4.3c-.6-1.7.2-3.5,1.9-4.1,1.7-.6,3.5.2,4.1,1.9l9.6,25.6c.6,1.7-.2,3.5-1.9,4.1-.4.1-.8.2-1.1.2h0Z'/%3e%3cpath%20d='M71.8,9.1h-6.9v4.6h6.9c2.5,0,4.6,2,4.6,4.6h-6.9c-3.8,0-6.9,3.1-6.9,6.9s3.1,6.9,6.9,6.9h2.3c1.7,0,3.2-.4,4.6-1.2v1.2h4.6v-13.7c0-5-4.1-9.1-9.1-9.1h0ZM71.8,27.4h-2.3c-1.3,0-2.3-1-2.3-2.3s1-2.3,2.3-2.3h6.9c0,2.5-2,4.6-4.6,4.6h0Z'/%3e%3cpath%20d='M52.3,9.1h-4.6V0h-4.6V32h9.1c5,0,9.1-4.1,9.1-9.1v-4.6c0-5.1-4.1-9.1-9.1-9.1h0ZM56.9,22.9c0,2.5-2,4.6-4.6,4.6h-4.6v-13.7h4.6c2.5,0,4.6,2,4.6,4.6v4.6h0Z'/%3e%3cpath%20d='M110.9,13.7h9.1v-4.6h-9.1c-5.1,0-9.1,4.1-9.1,9.1v4.6c0,5.1,4.1,9.1,9.1,9.1h9.1v-4.6h-9.1c-2.5,0-4.6-2-4.6-4.6h13.7v-4.6h-13.7c0-2.5,2-4.6,4.6-4.6h0Z'/%3e%3cpath%20d='M93.6,18.3h-4.6c-1.3,0-2.3-1-2.3-2.3s1-2.3,2.3-2.3h10.3v-4.6h-10.3c-3.8,0-6.9,3.1-6.9,6.9s3.1,6.9,6.9,6.9h4.6c1.3,0,2.3,1,2.3,2.3s-1,2.3-2.3,2.3h-10.3v4.6h10.3c3.8,0,6.9-3.1,6.9-6.9s-3.1-6.9-6.9-6.9Z'/%3e%3c/g%3e%3c/g%3e%3c/svg%3e)