base_model: Nellyw888/VeriReason-Qwen2.5-7b-RTLCoder-Verilog-GRPO-reasoning-tb datasets:

• Nellyw888/VeriReason-RTL-Coder_7b_reasoning_tb language:
• en library_name: transformers quantized_by: mradermacher tags:
• verilog
• reasoning
• reinforcement-learning
• rtl

简介

这是对 https://huggingface.co/Nellyw888/VeriReason-Qwen2.5-7b-RTLCoder-Verilog-GRPO-reasoning-tb 进行的加权/重要性矩阵量化版本。

静态量化文件可在 https://huggingface.co/mradermacher/VeriReason-Qwen2.5-7b-RTLCoder-Verilog-GRPO-reasoning-tb-GGUF 获取

使用说明

若不熟悉GGUF文件使用方法，请参考 TheBloke的使用指南 了解详情（包括多分卷文件的合并方法）。

提供的量化版本

（按体积排序，质量可能不同。IQ量化通常优于同体积的非IQ量化）

ikawrakow制作的实用图表比较了几种低质量量化类型（数值越低越好）：

另可参考Artefact2的技术分析： https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

常见问题/模型请求

访问 https://huggingface.co/mradermacher/model_requests 查看可能的问题解答，或申请其他模型的量化服务。

致谢

感谢我的雇主nethype GmbH允许我使用服务器资源，并为我的工作站提供升级支持。特别感谢@nicoboss提供私人超级计算机访问权限，使我能够提供比原计划更多、质量更高的重要性矩阵量化版本。