量化者：bartowski
流水线标签：文本生成
标签：

• 语言
• granite-3.3
  许可证：Apache-2.0
  推理支持：否
  基础模型：ibm-granite/granite-3.3-2b-instruct
  基础模型关联：量化版本

💫 社区模型 > IBM-Granite 的 Granite 3.3 20亿参数指导模型

👾 LM Studio 社区模型亮点计划。展示社区中值得关注的新模型。加入 Discord 的讨论。

模型创建者：ibm-granite
原始模型：granite-3.3-2b-instruct
GGUF 量化：由 bartowski 基于 llama.cpp 版本 b5147 提供

技术细节

支持 128k 令牌的上下文长度

针对改进的推理和指令跟随能力进行了微调

支持通过 <think></think> 和 <response></response> 标签进行结构化推理

支持英语、德语、西班牙语、法语、日语、葡萄牙语、阿拉伯语、捷克语、意大利语、韩语、荷兰语和中文

具备思考、分类、提取、编码（包括 FIM）、函数调用以及长上下文任务（如摘要、RAG 和长文档问答）的能力

特别致谢

🙏 特别感谢 Georgi Gerganov 和 llama.cpp 的整个团队，让这一切成为可能。

免责声明

LM Studio 并非社区模型计划中任何模型的创建者、发起者或所有者。每个社区模型均由第三方创建和提供。LM Studio 不对任何社区模型的完整性、真实性、准确性或可靠性进行背书、支持、代表或保证。您理解社区模型可能生成具有冒犯性、有害性、不准确或其他不当或欺骗性的内容。每个社区模型均由创建该模型的个人或实体全权负责。LM Studio 可能不会监控或控制社区模型，也无法对其承担任何责任。LM Studio 不提供关于社区模型准确性、可靠性或益处的任何保证或担保。LM Studio 进一步声明不保证社区模型会满足您的需求、安全、无中断或在任何时间或地点可用、无错误、无病毒，或任何错误会被纠正等。您将自行承担使用或访问社区模型、下载任何社区模型或使用 LM Studio 提供或通过其提供的任何其他社区模型所造成的任何损害。