AIbase

I

INTELLECT 2 GGUF

由 MaziyarPanahi 开发
INTELLECT-2-GGUF 是 PrimeIntellect/INTELLECT-2 的 GGUF 格式量化版本，适用于文本生成任务。
大型语言模型#多比特量化#轻量部署#文本生成
下载量 88
发布时间 : 5/12/2025
模型介绍
内容详情
替代品

模型简介

该模型是 PrimeIntellect/INTELLECT-2 的 GGUF 格式量化版本，支持多种量化比特数（2-8比特），适用于文本生成任务。GGUF 是一种新的模型格式，替代了不再受支持的 GGML 格式。

模型特点

多比特量化支持
支持 2 比特到 8 比特的多种量化选项，可根据需求选择适合的量化级别。
GGUF 格式
使用 GGUF 格式，这是一种新的模型格式，替代了不再受支持的 GGML 格式。
广泛的客户端支持
支持多种客户端和库，如 llama.cpp、LM Studio、text-generation-webui 等，便于在不同环境中使用。

模型能力

文本生成

使用案例

文本生成
故事生成
利用模型生成连贯的故事文本。
对话生成
生成自然流畅的对话内容。