推理优化
Nvidia AceReason Nemotron 7B GGUF
其他
AceReason-Nemotron-7B 是一个基于 Nemotron 架构的 7B 参数规模的大型语言模型,提供多种量化版本以适应不同硬件需求。
大型语言模型
N
bartowski
209
2
Nvidia AceReason Nemotron 14B GGUF
其他
AceReason-Nemotron-14B 是一个14B参数规模的大型语言模型,提供多种量化版本以适应不同硬件需求。
大型语言模型
N
bartowski
1,772
6
Llama 3.1 Nemotron Nano 4B V1.1
其他
Llama-3.1-Nemotron-Nano-4B-v1.1 是一个基于Llama 3.1 8B压缩而来的大型语言模型,优化了推理能力和任务执行效率,适用于单块RTX显卡本地运行。
大型语言模型
Transformers
英语
L
unsloth
219
4
Mimo 7B RL Zero
MIT
MiMo-7B 是小米推出的专为推理任务设计的语言模型系列,包括基础模型、SFT模型和RL模型,在数学和代码推理任务上表现优异。
大型语言模型
Transformers
M
XiaomiMiMo
216
14
Mimo 7B RL
MIT
MiMo-7B-RL是基于MiMo-7B-SFT模型训练的强化学习模型,在数学与代码推理任务上表现出色,性能媲美OpenAI o1-mini。
大型语言模型
Transformers
M
XiaomiMiMo
11.79k
252
Mimo 7B Base
MIT
小米推出的7B参数规模推理专用语言模型系列,通过优化预训练和后训练策略显著提升数学与代码推理能力
大型语言模型
Transformers
M
XiaomiMiMo
12.75k
101
Thinkedit Deepseek Qwen 14b
其他
ThinkEdit是一种轻量级权重编辑方法,通过识别并编辑少量注意力头,缓解大语言模型在推理任务中生成过度简短思维链的问题,提升推理准确性。
大型语言模型
Transformers
T
cesun
46
2
Qwq 32B FP8 Dynamic
MIT
QwQ-32B的FP8量化版本,通过动态量化技术减少50%存储和内存需求,同时保持99.75%的原模型精度
大型语言模型
Transformers
Q
nm-testing
3,895
3
Cognitivecomputations Dolphin3.0 R1 Mistral 24B GGUF
Dolphin3.0-R1-Mistral-24B 是一个基于 Mistral 架构的 24B 参数大语言模型,由 Eric Hartford 训练,专注于推理和第一性原理分析。
大型语言模型
英语
C
bartowski
10.24k
72
Llama3 Aloe 8B Alpha
Aloe是新一代医疗大语言模型家族,通过模型融合和先进的提示策略,在其规模范围内与所有先前开源模型相比具有高度竞争力,并达到了最先进的成果。
大型语言模型
Transformers
英语
L
HPAI-BSC
6,663
61