该模型是从bigscience/mt0-xxl-mt通过llama.cpp转换为GGUF格式的多语言文本生成模型,支持多种语言任务。
下载量 14
发布时间 : 1/20/2025
模型介绍
内容详情
替代品
模型简介
基于bigscience/mt0-xxl-mt转换的GGUF格式模型,专注于多语言文本生成任务,支持翻译、问答、情感分析等多种功能。
模型特点
多语言支持
支持超过80种语言的文本生成任务,包括翻译、问答等。
高效推理
通过GGUF格式优化,可在多种硬件上高效运行。
多样化任务处理
能够处理翻译、情感分析、文本补全等多种文本生成任务。
模型能力
文本生成
多语言翻译
情感分析
问答系统
文本补全
使用案例
翻译
蒙英翻译
将蒙古语文本翻译成英语
日法翻译
将日语单词翻译成法语解释
问答
德挪问答
用挪威语提出关于天文学的难题
英英问答
回答为什么天空是蓝色的
情感分析
中英情感分析
分析中文评论的情感倾向(积极、中立、消极)
文本生成
西英寓言
用西班牙语生成关于巨魔拯救公主的童话故事
印英寓言
用印地语生成关于森林精灵的寓言故事
数据集:
- bigscience/xP3mt
- mc4 许可证: apache-2.0 支持语言:
- 南非荷兰语
- 阿姆哈拉语
- 阿拉伯语
- 阿塞拜疆语
- 白俄罗斯语
- 保加利亚语
- 孟加拉语
- 加泰罗尼亚语
- 宿务语
- 科西嘉语
- 捷克语
- 威尔士语
- 丹麦语
- 德语
- 希腊语
- 英语
- 世界语
- 西班牙语
- 爱沙尼亚语
- 巴斯克语
- 波斯语
- 芬兰语
- 菲律宾语
- 法语
- 西弗里西亚语
- 爱尔兰语
- 苏格兰盖尔语
- 加利西亚语
- 古吉拉特语
- 豪萨语
- 夏威夷语
- 印地语
- 苗语
- 海地克里奥尔语
- 匈牙利语
- 亚美尼亚语
- 伊博语
- 冰岛语
- 意大利语
- 希伯来语
- 日语
- 爪哇语
- 格鲁吉亚语
- 哈萨克语
- 高棉语
- 卡纳达语
- 韩语
- 库尔德语
- 吉尔吉斯语
- 拉丁语
- 卢森堡语
- 老挝语
- 立陶宛语
- 拉脱维亚语
- 马尔加什语
- 毛利语
- 马其顿语
- 马拉雅拉姆语
- 蒙古语
- 马拉地语
- 马来语
- 马耳他语
- 缅甸语
- 尼泊尔语
- 荷兰语
- 挪威语
- 齐切瓦语
- 旁遮普语
- 波兰语
- 普什图语
- 葡萄牙语
- 罗马尼亚语
- 俄语
- 信德语
- 僧伽罗语
- 斯洛伐克语
- 斯洛文尼亚语
- 萨摩亚语
- 修纳语
- 索马里语
- 阿尔巴尼亚语
- 塞尔维亚语
- 塞索托语
- 巽他语
- 瑞典语
- 斯瓦希里语
- 泰米尔语
- 泰卢固语
- 塔吉克语
- 泰语
- 土耳其语
- 乌克兰语
- 未指定语言
- 乌尔都语
- 乌兹别克语
- 越南语
- 科萨语
- 意第绪语
- 约鲁巴语
- 中文
- 祖鲁语 标签:
- 文本生成文本
- llama-cpp
- gguf-my-repo 示例:
- 文本: "生活是美好的!翻译成蒙古语。" 示例标题: "蒙英翻译"
- 文本: "日语单词「憂鬱」在奥里亚语中是什么意思?" 示例标题: "日法翻译"
- 文本: "给我出一道关于天文学的难题。请用挪威语提问。" 示例标题: "德挪问答"
- 文本: "一个传奇的开端,一个不灭的神话,这不仅仅是一部电影,而是作为一个走进新时代的标签,永远彪炳史册。请评价上述评论是积极、中立还是消极?" 示例标题: "中英情感分析"
- 文本: "一个传奇的开端,一个不灭的神话,这不仅仅是一部电影,而是作为一个走进新时代的标签,永远彪炳史册。你认为这句话的立场是赞扬、中立还是批评?" 示例标题: "中中情感分析"
- 文本: "建议至少五个与「人工神经网络」相关的搜索词。" 示例标题: "越英查询"
- 文本: "提出至少五个关于「人工神经网络」的关键词。" 示例标题: "法法查询"
- 文本: "用泰卢固语一句话解释神经网络中的反向传播是什么。" 示例标题: "泰英问答"
- 文本: "为什么天空是蓝色的?" 示例标题: "英英问答"
- 文本: "写一个关于巨魔从危险巨龙手中拯救公主的童话故事。这个童话是一部获得全球赞誉的杰作,其寓意是「英雄不问出处」。故事(西班牙语):" 示例标题: "西英寓言"
- 文本: "写一个关于森林精灵突然遭到食人魔入侵的寓言故事。这个寓言是一部获得全球赞誉的杰作,其寓意是「暴力是无能者的最后手段」。寓言(印地语):" 示例标题: "印英寓言" 任务类型: 文本生成文本 基础模型: bigscience/mt0-xxl-mt 模型索引:
- 名称: mt0-xxl-mt
结果:
- 任务:
类型: 指代消解
数据集:
名称: Winogrande XL (xl)
类型: winogrande
配置: xl
分割: 验证集
修订版本: a80f460359d1e9a67c006011c94de42a8759430c
指标:
- 类型: 准确率 值: 62.67
- 任务:
类型: 指代消解
数据集:
名称: XWinograd (en)
类型: Muennighoff/xwinograd
配置: en
分割: 测试集
修订版本: 9dd5ea5505fad86b7bedad667955577815300cee
指标:
- 类型: 准确率 值: 83.31
- 任务:
类型: 指代消解
数据集:
名称: XWinograd (fr)
类型: Muennighoff/xwinograd
配置: fr
分割: 测试集
修订版本: 9dd5ea5505fad86b7bedad667955577815300cee
指标:
- 类型: 准确率 值: 78.31
- 任务:
类型: 指代消解
数据集:
名称: XWinograd (jp)
类型: Muennighoff/xwinograd
配置: jp
分割: 测试集
修订版本: 9dd5ea5505fad86b7bedad667955577815300cee
指标:
- 类型: 准确率 值: 80.19
- 任务:
类型: 指代消解
数据集:
名称: XWinograd (pt)
类型: Muennighoff/xwinograd
配置: pt
分割: 测试集
修订版本: 9dd5ea5505fad86b7bedad667955577815300cee
指标:
- 类型: 准确率 值: 80.99
- 任务:
类型: 指代消解
数据集:
名称: XWinograd (ru)
类型: Muennighoff/xwinograd
配置: ru
分割: 测试集
修订版本: 9dd5ea5505fad86b7bedad667955577815300cee
指标:
- 类型: 准确率 值: 79.05
- 任务:
类型: 指代消解
数据集:
名称: XWinograd (zh)
类型: Muennighoff/xwinograd
配置: zh
分割: 测试集
修订版本: 9dd5ea5505fad86b7bedad667955577815300cee
指标:
- 类型: 准确率 值: 82.34
- 任务:
类型: 自然语言推理
数据集:
名称: ANLI (r1)
类型: anli
配置: r1
分割: 验证集
修订版本: 9dbd830a06fea8b1c49d6e5ef2004a08d9f45094
指标:
- 类型: 准确率 值: 49.5
- 任务:
类型: 自然语言推理
数据集:
名称: ANLI (r2)
类型: anli
配置: r2
分割: 验证集
修订版本: 9dbd830a06fea8b1c49d6e5ef2004a08d9f45094
指标:
- 类型: 准确率 值: 42
- 任务:
类型: 自然语言推理
数据集:
名称: ANLI (r3)
类型: anli
配置: r3
分割: 验证集
修订版本: 9dbd830a06fea8b1c49d6e5ef2004a08d9f45094
指标:
- 类型: 准确率 值: 48.17
- 任务:
类型: 自然语言推理
数据集:
名称: SuperGLUE (cb)
类型: super_glue
配置: cb
分割: 验证集
修订版本: 9e12063561e7e6c79099feb6d5a493142584e9e2
指标:
- 类型: 准确率 值: 87.5
- 任务:
类型: 自然语言推理
数据集:
名称: SuperGLUE (rte)
类型: super_glue
配置: rte
分割: 验证集
修订版本: 9e12063561e7e6c79099feb6d5a493142584e9e2
指标:
- 类型: 准确率 值: 84.84
- 任务:
类型: 自然语言推理
数据集:
名称: XNLI (ar)
类型: xnli
配置: ar
分割: 验证集
修订版本: a5a45e4ff92d5d3f34de70aaf4b72c3bdf9f7f16
指标:
- 类型: 准确率 值: 58.03
- 任务:
类型: 自然语言推理
数据集:
名称: XNLI (bg)
类型: xnli
配置: bg
分割: 验证集
修订版本: a5a45e4ff92d5d3f34de70aaf4b72c3bdf9f7f16
指标:
- 类型: 准确率 值: 59.92
- 任务:
类型: 自然语言推理
数据集:
名称: XNLI (de)
类型: xnli
配置: de
分割: 验证集
修订版本: a5a45e4ff92d5d3f34de70aaf4b72c3bdf9f7f16
指标:
- 类型: 准确率 值: 60.16
- 任务:
类型: 自然语言推理
数据集:
名称: XNLI (el)
类型: xnli
配置: el
分割: 验证集
修订版本: a5a45e4ff92d5d3f34de70aaf4b72c3bdf9f7f16
指标:
- 类型: 准确率 值: 59.2
- 任务:
类型: 自然语言推理
数据集:
名称: XNLI (en)
类型: xnli
配置: en
分割: 验证集
修订版本: a5a45e4ff92d5d3f34de70aaf4b72c3bdf9f7f16
指标:
- 类型: 准确率 值: 62.25
- 任务:
类型: 自然语言推理
数据集:
名称: XNLI (es)
类型: xnli
配置: es
分割: 验证集
修订版本: a5a45e4ff92d5d3f34de70aaf4b72c3bdf9f7f16
指标:
- 类型: 准确率 值: 60.92
- 任务:
类型: 自然语言推理
数据集:
名称: XNLI (fr)
类型: xnli
配置: fr
分割: 验证集
修订版本: a5a45e4ff92d5d3f34de70aaf4b72c3bdf9f7f16
指标:
- 类型: 准确率 值: 59.88
- 任务:
类型: 自然语言推理
数据集:
名称: XNLI (hi)
类型: xnli
配置: hi
分割: 验证集
修订版本: a5a45e4ff92d5d3f34de70aaf4b72c3bdf9f7f16
指标:
- 类型: 准确率 值: 57.47
- 任务:
类型: 自然语言推理
数据集:
名称: XNLI (ru)
类型: xnli
配置: ru
分割: 验证集
修订版本: a5a45e4ff92d5d3f34de70aaf4b72c3bdf9f7f16
指标:
- 类型: 准确率 值: 58.67
- 任务:
类型: 自然语言推理
数据集:
名称: XNLI (sw)
类型: xnli
配置: sw
分割: 验证集
修订版本: a5a45e4ff92d5d3f34de70aaf4b72c3bdf9f7f16
指标:
- 类型: 准确率 值: 56.79
- 任务:
类型: 自然语言推理
数据集:
名称: XNLI (th)
类型: xnli
配置: th
分割: 验证集
修订版本: a5a45e4ff92d5d3f34de70aaf4b72c3bdf9f7f16
指标:
- 类型: 准确率 值: 58.03
- 任务:
类型: 自然语言推理
数据集:
名称: XNLI (tr)
类型: xnli
配置: tr
分割: 验证集
修订版本: a5a45e4ff92d5d3f34de70aaf4b72c3bdf9f7f16
指标:
- 类型: 准确率 值: 57.67
- 任务:
类型: 自然语言推理
数据集:
名称: XNLI (ur)
类型: xnli
配置: ur
分割: 验证集
修订版本: a5a45e4ff92d5d3f34de70aaf4b72c3bdf9f7f16
指标:
- 类型: 准确率 值: 55.98
- 任务:
类型: 自然语言推理
数据集:
名称: XNLI (vi)
类型: xnli
配置: vi
分割: 验证集
修订版本: a5a45e4ff92d5d3f34de70aaf4b72c3bdf9f7f16
指标:
- 类型: 准确率 值: 58.92
- 任务:
类型: 自然语言推理
数据集:
名称: XNLI (zh)
类型: xnli
配置: zh
分割: 验证集
修订版本: a5a45e4ff92d5d3f34de70aaf4b72c3bdf9f7f16
指标:
- 类型: 准确率 值: 58.71
- 任务:
类型: 句子补全
数据集:
名称: StoryCloze (2016)
类型: story_cloze
配置: '2016'
分割: 验证集
修订版本: e724c6f8cdf7c7a2fb229d862226e15b023ee4db
指标:
- 类型: 准确率 值: 94.66
- 任务:
类型: 句子补全
数据集:
名称: SuperGLUE (copa)
类型: super_glue
配置: copa
分割: 验证集
修订版本: 9e12063561e7e6c79099feb6d5a493142584e9e2
指标:
- 类型: 准确率 值: 88
- 任务:
类型: 句子补全
数据集:
名称: XCOPA (et)
类型: xcopa
配置: et
分割: 验证集
修订版本: 37f73c60fb123111fa5af5f9b705d0b3747fd187
指标:
- 类型: 准确率 值: 81
- 任务:
类型: 句子补全
数据集:
名称: XCOPA (ht)
类型: xcopa
配置: ht
分割: 验证集
修订版本: 37f73c60fb123111fa5af5f9b705d0b3747fd187
指标:
- 类型: 准确率 值: 79
- 任务:
类型: 句子补全
数据集:
名称: XCOPA (id)
类型: xcopa
配置: id
分割: 验证集
修订版本: 37f73c60fb123111fa5af5f9b705d0b3747fd187
指标:
- 类型: 准确率 值: 90
- 任务:
类型: 句子补全
数据集:
名称: XCOPA (it)
类型: xcopa
配置: it
分割: 验证集
修订版本: 37f73c60fb123111fa5af5f9b705d0b3747fd187
指标:
- 类型: 准确率 值: 88
- 任务:
类型: 句子补全
数据集:
名称: XCOPA (qu)
类型: xcopa
配置: qu
分割: 验证集
修订版本: 37f73c60fb123111fa5af5f9b705d0b3747fd187
指标:
- 类型: 准确率 值: 56
- 任务:
类型: 句子补全
数据集:
名称: XCOPA (sw)
类型: xcopa
配置: sw
分割: 验证集
修订版本: 37f73c60fb123111fa5af5f9b705d0b3747fd187
指标:
- 类型: 准确率 值: 81
- 任务:
类型: 句子补全
数据集:
名称: XCOPA (ta)
类型: xcopa
配置: ta
分割: 验证集
修订版本: 37f73c60fb123111fa5af5f9b705d0b3747fd187
指标:
- 类型: 准确率 值: 81
- 任务:
类型: 句子补全
数据集:
名称: XCOPA (th)
类型: xcopa
配置: th
分割: 验证集
修订版本: 37f73c60fb123111fa5af5f9b705d0b3747fd187
指标:
- 类型: 准确率 值: 76
- 任务:
类型: 句子补全
数据集:
名称: XCOPA (tr)
类型: xcopa
配置: tr
分割: 验证集
修订版本: 37f73c60fb123111fa5af5f9b705d0b3747fd187
指标:
- 类型: 准确率 值: 76
- 任务:
类型: 句子补全
数据集:
名称: XCOPA (vi)
类型: xcopa
配置: vi
分割: 验证集
修订版本: 37f73c60fb123111fa5af5f9b705d0b3747fd187
指标:
- 类型: 准确率 值: 85
- 任务:
类型: 句子补全
数据集:
名称: XCOPA (zh)
类型: xcopa
配置: zh
分割: 验证集
修订版本: 37f73c60fb123111fa5af5f9b705d0b3747fd187
指标:
- 类型: 准确率 值: 87
- 任务:
类型: 句子补全
数据集:
名称: XStoryCloze (ar)
类型: Muennighoff/xstory_cloze
配置: ar
分割: 验证集
修订版本: 8bb76e594b68147f1a430e86829d07189622b90d
指标:
- 类型: 准确率 值: 91
- 任务:
类型: 句子补全
数据集:
名称: XStoryCloze (es)
类型: Muennighoff/xstory_cloze
配置: es
分割: 验证集
修订版本: 8bb76e594b68147f1a430e86829d07189622b90d
指标:
- 类型: 准确率 值: 93.38
- 任务:
类型: 句子补全
数据集:
名称: XStoryCloze (eu)
类型: Muennighoff/xstory_cloze
配置: eu
分割: 验证集
修订版本: 8bb76e594b68147f1a430e86829d07189622b90d
指标:
- 类型: 准确率 值: 91.13
- 任务:
类型: 句子补全
数据集:
名称: XStoryCloze (hi)
类型: Muennighoff/xstory_cloze
配置: hi
分割: 验证集
修订版本: 8bb76e594b68147f1a430e86829d07189622b90d
指标:
- 类型: 准确率 值: 90.73
- 任务:
类型: 句子补全
数据集:
名称: XStoryCloze (id)
类型: Muennighoff/xstory_cloze
配置: id
分割: 验证集
修订版本: 8bb76e594b68147f1a430e86829d07189622b90d
指标:
- 类型: 准确率 值: 93.05
- 任务:
类型: 句子补全
数据集:
名称: XStoryCloze (my)
类型: Muennighoff/xstory_cloze
配置: my
分割: 验证集
修订版本: 8bb76e594b68147f1a430e86829d07189622b90d
指标:
- 类型: 准确率 值: 86.7
- 任务:
类型: 句子补全
数据集:
名称: XStoryCloze (ru)
类型: Muennighoff/xstory_cloze
配置: ru
分割: 验证集
修订版本: 8bb76e594b68147f1a430e86829d07189622b90d
指标:
- 类型: 准确率 值: 91.66
- 任务:
类型: 句子补全
数据集:
名称: XStoryCloze (sw)
类型: Muennighoff/xstory_cloze
配置: sw
分割: 验证集
修订版本: 8bb76e594b68147f1a430e86829d07189622b90d
指标:
- 类型: 准确率 值: 89.61
- 任务:
类型: 句子补全
数据集:
名称: XStoryCloze (te)
类型: Muennighoff/xstory_cloze
配置: te
分割: 验证集
修订版本: 8bb76e594b68147f1a430e86829d07189622b90d
指标:
- 类型: 准确率 值: 90.4
- 任务:
类型: 句子补全
数据集:
名称: XStoryCloze (zh)
类型: Muennighoff/xstory_cloze
配置: zh
分割: 验证集
修订版本: 8bb76e594b68147f1a430e86829d07189622b90d
指标:
- 类型: 准确率 值: 93.05
- 任务:
类型: 指代消解
数据集:
名称: Winogrande XL (xl)
类型: winogrande
配置: xl
分割: 验证集
修订版本: a80f460359d1e9a67c006011c94de42a8759430c
指标:
Markobes/mt0-xxl-mt-Q4_K_M-GGUF
该模型是从bigscience/mt0-xxl-mt
通过llama.cpp使用ggml.ai的GGUF-my-repo空间转换为GGUF格式的。有关模型的更多详细信息,请参阅原始模型卡片。
使用llama.cpp
通过brew安装llama.cpp(适用于Mac和Linux)
brew install llama.cpp
调用llama.cpp服务器或CLI。
CLI:
llama-cli --hf-repo Markobes/mt0-xxl-mt-Q4_K_M-GGUF --hf-file mt0-xxl-mt-q4_k_m.gguf -p "生命和宇宙的意义是"
服务器:
llama-server --hf-repo Markobes/mt0-xxl-mt-Q4_K_M-GGUF --hf-file mt0-xxl-mt-q4_k_m.gguf -c 2048
注意:您也可以通过Llama.cpp仓库中列出的使用步骤直接使用此检查点。
步骤1:从GitHub克隆llama.cpp。
git clone https://github.com/ggerganov/llama.cpp
步骤2:进入llama.cpp文件夹并使用LLAMA_CURL=1
标志以及其他硬件特定标志(例如:Linux上Nvidia GPU的LLAMA_CUDA=1)构建。
cd llama.cpp && LLAMA_CURL=1 make
步骤3:通过主二进制文件运行推理。
./llama-cli --hf-repo Markobes/mt0-xxl-mt-Q4_K_M-GGUF --hf-file mt0-xxl-mt-q4_k_m.gguf -p "生命和宇宙的意义是"
或
./llama-server --hf-repo Markobes/mt0-xxl-mt-Q4_K_M-GGUF --hf-file mt0-xxl-mt-q4_k_m.gguf -c 2048
Phi 2 GGUF
其他
Phi-2是微软开发的一个小型但强大的语言模型,具有27亿参数,专注于高效推理和高质量文本生成。
大型语言模型
支持多种语言
P
TheBloke
41.5M
205
Roberta Large
MIT
基于掩码语言建模目标预训练的大型英语语言模型,采用改进的BERT训练方法
大型语言模型
英语
R
FacebookAI
19.4M
212
Distilbert Base Uncased
Apache-2.0
DistilBERT是BERT基础模型的蒸馏版本,在保持相近性能的同时更轻量高效,适用于序列分类、标记分类等自然语言处理任务。
大型语言模型
英语
D
distilbert
11.1M
669
Llama 3.1 8B Instruct GGUF
Meta Llama 3.1 8B Instruct 是一个多语言大语言模型,针对多语言对话用例进行了优化,在常见的行业基准测试中表现优异。
大型语言模型
英语
L
modularai
9.7M
4
Xlm Roberta Base
MIT
XLM-RoBERTa是基于100种语言的2.5TB过滤CommonCrawl数据预训练的多语言模型,采用掩码语言建模目标进行训练。
大型语言模型
支持多种语言
X
FacebookAI
9.6M
664
Roberta Base
MIT
基于Transformer架构的英语预训练模型,通过掩码语言建模目标在海量文本上训练,支持文本特征提取和下游任务微调
大型语言模型
英语
R
FacebookAI
9.3M
488
Opt 125m
其他
OPT是由Meta AI发布的开放预训练Transformer语言模型套件,参数量从1.25亿到1750亿,旨在对标GPT-3系列性能,同时促进大规模语言模型的开放研究。
大型语言模型
英语
O
facebook
6.3M
198
Llama 3.1 8B Instruct
Llama 3.1是Meta推出的多语言大语言模型系列,包含8B、70B和405B参数规模,支持8种语言和代码生成,优化了多语言对话场景。
大型语言模型
Transformers

支持多种语言
L
meta-llama
5.7M
3,898
T5 Base
Apache-2.0
T5基础版是由Google开发的文本到文本转换Transformer模型,参数规模2.2亿,支持多语言NLP任务。
大型语言模型
支持多种语言
T
google-t5
5.4M
702
Xlm Roberta Large
MIT
XLM-RoBERTa是基于100种语言的2.5TB过滤CommonCrawl数据预训练的多语言模型,采用掩码语言建模目标进行训练。
大型语言模型
支持多种语言
X
FacebookAI
5.3M
431
精选推荐AI模型
Llama 3 Typhoon V1.5x 8b Instruct
专为泰语设计的80亿参数指令模型,性能媲美GPT-3.5-turbo,优化了应用场景、检索增强生成、受限生成和推理任务
大型语言模型
Transformers

支持多种语言
L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型,专为边缘设备推理设计,体积仅为Cosmo-3B模型的2%左右。
对话系统
Transformers

英语
C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基于RoBERTa架构的中文抽取式问答模型,适用于从给定文本中提取答案的任务。
问答系统
中文
R
uer
2,694
98
AIbase是一个专注于MCP服务的平台,为AI开发者提供高质量的模型上下文协议服务,助力AI应用开发。
简体中文