语言:

• 英语
• 法语
• 德语
• 西班牙语
• 意大利语
• 葡萄牙语
• 日语
• 韩语
• 中文
• 阿拉伯语

许可证: cc-by-nc-4.0 库名称: transformers 额外授权提示: "提交此表单即表示您同意许可协议，并确认您提供的信息将根据Cohere的隐私政策进行收集、使用和共享。"

额外授权字段: 姓名: 文本 所属机构: 文本 国家/地区: 类型: 下拉选择 选项: - 阿鲁巴 - 阿富汗 - 安哥拉 - 安圭拉 - 奥兰群岛 - 阿尔巴尼亚 - 安道尔 - 阿拉伯联合酋长国 - 阿根廷 - 亚美尼亚 - 美属萨摩亚 - 南极洲 - 法属南部领地 - 安提瓜和巴布达 - 澳大利亚 - 奥地利 - 阿塞拜疆 - 布隆迪 - 比利时 - 贝宁 - 博奈尔、圣尤斯特歇斯和萨巴 - 布基纳法索 - 孟加拉国 - 保加利亚 - 巴林 - 巴哈马 - 波斯尼亚和黑塞哥维那 - 圣巴泰勒米 - 白俄罗斯 - 伯利兹 - 百慕大 - 多民族玻利维亚国 - 巴西 - 巴巴多斯 - 文莱达鲁萨兰国 - 不丹 - 布韦岛 - 博茨瓦纳 - 中非共和国 - 加拿大 - 科科斯（基林）群岛 - 瑞士 - 智利 - 中国 - 科特迪瓦 - 喀麦隆 - 刚果民主共和国 - 库克群岛 - 哥伦比亚 - 科摩罗 - 佛得角 - 哥斯达黎加 - 古巴 - 库拉索 - 圣诞岛 - 开曼群岛 - 塞浦路斯 - 捷克 - 德国 - 吉布提 - 多米尼克 - 丹麦 - 多米尼加共和国 - 阿尔及利亚 - 厄瓜多尔 - 埃及 - 厄立特里亚 - 西撒哈拉 - 西班牙 - 爱沙尼亚 - 埃塞俄比亚 - 芬兰 - 斐济 - 福克兰群岛（马尔维纳斯） - 法国 - 法罗群岛 - 密克罗尼西亚联邦 - 加蓬 - 英国 - 格鲁吉亚 - 根西岛 - 加纳 - 直布罗陀 - 几内亚 - 瓜德罗普 - 冈比亚 - 几内亚比绍 - 赤道几内亚 - 希腊 - 格林纳达 - 格陵兰 - 危地马拉 - 法属圭亚那 - 关岛 - 圭亚那 - 香港 - 赫德岛和麦克唐纳群岛 - 洪都拉斯 - 克罗地亚 - 海地 - 匈牙利 - 印度尼西亚 - 马恩岛 - 印度 - 英属印度洋领地 - 爱尔兰 - 伊朗伊斯兰共和国 - 伊拉克 - 冰岛 - 以色列 - 意大利 - 牙买加 - 泽西岛 - 约旦 - 日本 - 哈萨克斯坦 - 肯尼亚 - 吉尔吉斯斯坦 - 柬埔寨 - 基里巴斯 - 圣基茨和尼维斯 - 韩国 - 科威特 - 老挝人民民主共和国 - 黎巴嫩 - 利比里亚 - 利比亚 - 圣卢西亚 - 列支敦士登 - 斯里兰卡 - 莱索托 - 立陶宛 - 卢森堡 - 拉脱维亚 - 澳门 - 圣马丁（法属部分） - 摩洛哥 - 摩纳哥 - 摩尔多瓦共和国 - 马达加斯加 - 马尔代夫 - 墨西哥 - 马绍尔群岛 - 北马其顿 - 马里 - 马耳他 - 缅甸 - 黑山 - 蒙古 - 北马里亚纳群岛 - 莫桑比克 - 毛里塔尼亚 - 蒙特塞拉特 - 马提尼克 - 毛里求斯 - 马拉维 - 马来西亚 - 马约特 - 纳米比亚 - 新喀里多尼亚 - 尼日尔 - 诺福克岛 - 尼日利亚 - 尼加拉瓜 - 纽埃 - 荷兰 - 挪威 - 尼泊尔 - 瑙鲁 - 新西兰 - 阿曼 - 巴基斯坦 - 巴拿马 - 皮特凯恩 - 秘鲁 - 菲律宾 - 帕劳 - 巴布亚新几内亚 - 波兰 - 波多黎各 - 朝鲜 - 葡萄牙 - 巴拉圭 - 巴勒斯坦国 - 法属波利尼西亚 - 卡塔尔 - 留尼汪 - 罗马尼亚 - 俄罗斯 - 卢旺达 - 沙特阿拉伯 - 苏丹 - 塞内加尔 - 新加坡 - 南乔治亚和南桑威奇群岛 - 圣赫勒拿、阿森松和特里斯坦-达库尼亚 - 斯瓦尔巴和扬马延 - 所罗门群岛 - 塞拉利昂 - 萨尔瓦多 - 圣马力诺 - 索马里 - 圣皮埃尔和密克隆 - 塞尔维亚 - 南苏丹 - 圣多美和普林西比 - 苏里南 - 斯洛伐克 - 斯洛文尼亚 - 瑞典 - 斯威士兰 - 圣马丁（荷属部分） - 塞舌尔 - 阿拉伯叙利亚共和国 - 特克斯和凯科斯群岛 - 乍得 - 多哥 - 泰国 - 塔吉克斯坦 - 托克劳 - 土库曼斯坦 - 东帝汶 - 汤加 - 特立尼达和多巴哥 - 突尼斯 - 土耳其 - 图瓦卢 - 台湾 - 坦桑尼亚联合共和国 - 乌干达 - 乌克兰 - 美国本土外小岛屿 - 乌拉圭 - 美国 - 乌兹别克斯坦 - 梵蒂冈城国 - 圣文森特和格林纳丁斯 - 委内瑞拉玻利瓦尔共和国 - 英属维尔京群岛 - 美属维尔京群岛 - 越南 - 瓦努阿图 - 瓦利斯和富图纳 - 萨摩亚 - 也门 - 南非 - 赞比亚 - 津巴布韦

是否接收C4AI和Cohere的研究、活动、产品和服务电子邮件更新？: 类型: 下拉选择 选项: - 是 - 否

我同意仅将此模型用于非商业用途: 复选框

量化者: KimChen 管道标签: 文本生成 基础模型: CohereForAI/c4ai-command-r-08-2024

KimChen/c4ai-command-r-08-2024-GGUF

此模型是从CohereForAI/c4ai-command-r-08-2024使用llama.cpp转换为GGUF格式的。 有关模型的更多详情，请参阅原始模型卡片。

使用llama.cpp

通过brew安装llama.cpp（适用于Mac和Linux）

brew install llama.cpp

调用llama.cpp服务器或CLI。

CLI:

llama-cli --hf-repo KimChen/c4ai-command-r-08-2024-GGUF --hf-file c4ai-command-r-08-2024.gguf -p "生命和宇宙的意义是"

服务器:

llama-server --hf-repo KimChen/c4ai-command-r-08-2024-GGUF --hf-file c4ai-command-r-08-2024.gguf -c 2048

注意：您也可以通过使用步骤直接在Llama.cpp仓库中使用此检查点。

步骤1：从GitHub克隆llama.cpp。

git clone https://github.com/ggerganov/llama.cpp.git

步骤2：进入llama.cpp文件夹并使用LLAMA_CURL=1标志以及其他硬件特定标志（例如：Linux上NVIDIA GPU的LLAMA_CUDA=1）构建。

cd llama.cpp && LLAMA_CURL=1 make

步骤3：通过主二进制文件运行推理。

./llama-cli --hf-repo KimChen/c4ai-command-r-08-2024-GGUF --hf-file c4ai-command-r-08-2024-GGUF.gguf -p "生命和宇宙的意义是"

或

./llama-server --hf-repo KimChen/c4ai-command-r-08-2024-GGUF --hf-file c4ai-command-r-08-2024-GGUF.gguf -c 2048