量化者：bartowski
任务标签：文本生成
语言：
- 英文
数据集：
- codeparrot/apps
- BAAI/TACO
- AI-MO/NuminaMath-CoT
基础模型：NovaSky-AI/Sky-T1-32B-Preview
Sky-T1-32B-Preview的Llamacpp imatrix量化版本
使用llama.cpp发布的b4456版本进行量化。
原始模型：https://huggingface.co/NovaSky-AI/Sky-T1-32B-Preview
所有量化均使用imatrix选项，数据集来自此处
可在LM Studio中运行
提示格式
<|im_start|>system
{系统提示}<|im_end|>
<|im_start|>user
{用户输入}<|im_end|>
<|im_start|>assistant
从下方下载单个文件（非整个分支）：
嵌入/输出权重
部分量化版本（如Q3_K_XL、Q4_K_L等）采用标准量化方法，但嵌入和输出权重被量化为Q8_0，而非默认值。
使用huggingface-cli下载
点击查看下载说明
首先，确保已安装huggingface-cli：
pip install -U "huggingface_hub[cli]"
然后，可以指定下载目标文件：
huggingface-cli download bartowski/Sky-T1-32B-Preview-GGUF --include "Sky-T1-32B-Preview-Q4_K_M.gguf" --local-dir ./
如果模型大小超过50GB，会分片为多个文件。要下载全部文件到本地目录，运行：
huggingface-cli download bartowski/Sky-T1-32B-Preview-GGUF --include "Sky-T1-32B-Preview-Q8_0/*" --local-dir ./
可以指定新的本地目录（如Sky-T1-32B-Preview-Q8_0）或直接下载到当前目录（./）
ARM/AVX相关信息
过去，用户会下载Q4_0_4_4/4_8/8_8等文件，这些文件会在内存中交错权重，以提升ARM和AVX设备的性能，通过单次加载更多数据实现。
但现在，权重支持“在线重打包”。详情见此PR。如果使用Q4_0且硬件支持重打包，系统会自动处理。
从llama.cpp构建版本b4282开始，无法运行Q4_0_X_X文件，需改用Q4_0。
此外，若追求更高质量，可使用IQ4_NL（基于此PR），它也会为ARM重打包权重（目前仅支持4_4）。加载时间可能较长，但整体速度会提升。
点击查看Q4_0_X_X信息（已弃用）
保留此部分以展示Q4_0在线重打包的潜在性能提升。
点击查看AVX2系统（EPYC7702）基准测试
| 模型 |
大小 |
参数量 |
后端 |
线程数 |
测试 |
令牌/秒 |
（对比Q4_0）百分比 |
| qwen2 3B Q4_0 |
1.70 GiB |
3.09 B |
CPU |
64 |
pp512 |
204.03 ± 1.03 |
100% |
| qwen2 3B Q4_0 |
1.70 GiB |
3.09 B |
CPU |
64 |
pp1024 |
282.92 ± 0.19 |
100% |
| qwen2 3B Q4_0 |
1.70 GiB |
3.09 B |
CPU |
64 |
pp2048 |
259.49 ± 0.44 |
100% |
| qwen2 3B Q4_0 |
1.70 GiB |
3.09 B |
CPU |
64 |
tg128 |
39.12 ± 0.27 |
100% |
| qwen2 3B Q4_0 |
1.70 GiB |
3.09 B |
CPU |
64 |
tg256 |
39.31 ± 0.69 |
100% |
| qwen2 3B Q4_0 |
1.70 GiB |
3.09 B |
CPU |
64 |
tg512 |
40.52 ± 0.03 |
100% |
| qwen2 3B Q4_K_M |
1.79 GiB |
3.09 B |
CPU |
64 |
pp512 |
301.02 ± 1.74 |
147% |
| qwen2 3B Q4_K_M |
1.79 GiB |
3.09 B |
CPU |
64 |
pp1024 |
287.23 ± 0.20 |
101% |
| qwen2 3B Q4_K_M |
1.79 GiB |
3.09 B |
CPU |
64 |
pp2048 |
262.77 ± 1.81 |
101% |
| qwen2 3B Q4_K_M |
1.79 GiB |
3.09 B |
CPU |
64 |
tg128 |
18.80 ± 0.99 |
48% |
| qwen2 3B Q4_K_M |
1.79 GiB |
3.09 B |
CPU |
64 |
tg256 |
24.46 ± 3.04 |
83% |
| qwen2 3B Q4_K_M |
1.79 GiB |
3.09 B |
CPU |
64 |
tg512 |
36.32 ± 3.59 |
90% |
| qwen2 3B Q4_0_8_8 |
1.69 GiB |
3.09 B |
CPU |
64 |
pp512 |
271.71 ± 3.53 |
133% |
| qwen2 3B Q4_0_8_8 |
1.69 GiB |
3.09 B |
CPU |
64 |
pp1024 |
279.86 ± 45.63 |
100% |
| qwen2 3B Q4_0_8_8 |
1.69 GiB |
3.09 B |
CPU |
64 |
pp2048 |
320.77 ± 5.00 |
124% |
| qwen2 3B Q4_0_8_8 |
1.69 GiB |
3.09 B |
CPU |
64 |
tg128 |
43.51 ± 0.05 |
111% |
| qwen2 3B Q4_0_8_8 |
1.69 GiB |
3.09 B |
CPU |
64 |
tg256 |
43.35 ± 0.09 |
110% |
| qwen2 3B Q4_0_8_8 |
1.69 GiB |
3.09 B |
CPU |
64 |
tg512 |
42.60 ± 0.31 |
105% |
Q4_0_8_8显著提升了提示处理速度，文本生成也有小幅提升
如何选择文件？
点击查看详情
Artefact2提供了详细的性能对比图表，见此处
首先确定可运行的模型大小。需计算可用RAM和/或VRAM。
若追求最快运行速度，需将整个模型放入GPU的VRAM。选择比GPU总VRAM小1-2GB的量化文件。
若追求最高质量，将系统RAM与GPU VRAM相加，选择比总和小1-2GB的量化文件。
其次，选择“I-quant”或“K-quant”。
若不想深入思考，选择K-quant（格式为QX_K_X，如Q5_K_M）。
更深入的选择可参考此实用特性表：
llama.cpp特性矩阵
简而言之，若目标量化低于Q4且使用cuBLAS（Nvidia）或rocBLAS（AMD），建议选择I-quant（格式为IQX_X，如IQ3_M）。这些是新方法，在相同体积下性能更优。
I-quant也可用于CPU和Apple Metal，但速度会慢于对应的K-quant，需权衡速度与性能。
I-quant不兼容Vulcan（AMD显卡需确认使用rocBLAS还是Vulcan构建）。当前LM Studio提供ROCm支持预览版，其他推理引擎也有专门构建。
致谢
感谢kalomaze和Dampf协助创建imatrix校准数据集。
感谢ZeroWw启发嵌入/输出权重的实验。
支持我的工作？访问我的ko-fi页面：https://ko-fi.com/bartowski
Transformers%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20none;%20}%20.st1%20{%20fill:%20%235ce6cf;%20}%20.st2%20{%20fill:%20%230080ff;%20}%20.st3%20{%20clip-path:%20url(%23clippath);%20}%20%3c/style%3e%3cclipPath%20id='clippath'%3e%3crect%20class='st0'%20y='0'%20width='120'%20height='32'/%3e%3c/clipPath%3e%3c/defs%3e%3cg%20class='st3'%3e%3cg%3e%3cpath%20class='st1'%20d='M22.4,32H3.2c-1,0-2-.5-2.6-1.4-.6-.9-.7-2-.4-2.9L9.8,2.1C10.3.8,11.5,0,12.8,0s2.5.8,3,2.1l9.6,25.6c.4,1,.2,2.1-.4,2.9-.6.9-1.6,1.4-2.6,1.4ZM7.8,25.6h10l-5-13.3-5,13.3Z'/%3e%3cpath%20class='st2'%20d='M33.6,32c-1.3,0-2.5-.8-3-2.1L21,4.3c-.6-1.7.2-3.5,1.9-4.1,1.7-.6,3.5.2,4.1,1.9l9.6,25.6c.6,1.7-.2,3.5-1.9,4.1-.4.1-.8.2-1.1.2h0Z'/%3e%3cpath%20d='M71.8,9.1h-6.9v4.6h6.9c2.5,0,4.6,2,4.6,4.6h-6.9c-3.8,0-6.9,3.1-6.9,6.9s3.1,6.9,6.9,6.9h2.3c1.7,0,3.2-.4,4.6-1.2v1.2h4.6v-13.7c0-5-4.1-9.1-9.1-9.1h0ZM71.8,27.4h-2.3c-1.3,0-2.3-1-2.3-2.3s1-2.3,2.3-2.3h6.9c0,2.5-2,4.6-4.6,4.6h0Z'/%3e%3cpath%20d='M52.3,9.1h-4.6V0h-4.6V32h9.1c5,0,9.1-4.1,9.1-9.1v-4.6c0-5.1-4.1-9.1-9.1-9.1h0ZM56.9,22.9c0,2.5-2,4.6-4.6,4.6h-4.6v-13.7h4.6c2.5,0,4.6,2,4.6,4.6v4.6h0Z'/%3e%3cpath%20d='M110.9,13.7h9.1v-4.6h-9.1c-5.1,0-9.1,4.1-9.1,9.1v4.6c0,5.1,4.1,9.1,9.1,9.1h9.1v-4.6h-9.1c-2.5,0-4.6-2-4.6-4.6h13.7v-4.6h-13.7c0-2.5,2-4.6,4.6-4.6h0Z'/%3e%3cpath%20d='M93.6,18.3h-4.6c-1.3,0-2.3-1-2.3-2.3s1-2.3,2.3-2.3h10.3v-4.6h-10.3c-3.8,0-6.9,3.1-6.9,6.9s3.1,6.9,6.9,6.9h4.6c1.3,0,2.3,1,2.3,2.3s-1,2.3-2.3,2.3h-10.3v4.6h10.3c3.8,0,6.9-3.1,6.9-6.9s-3.1-6.9-6.9-6.9Z'/%3e%3c/g%3e%3c/g%3e%3c/svg%3e)