标签:

• unsloth 基础模型:
• THUDM/GLM-4-9B-0414 许可证: mit 语言:
• 中文
• 英文 管道标签: 文本生成 库名称: transformers

GLM-4-9B-0414

简介

GLM家族迎来新成员——GLM-4-32B-0414系列模型，拥有320亿参数。其性能可与OpenAI的GPT系列和DeepSeek的V3/R1系列相媲美。同时支持非常友好的本地部署特性。GLM-4-32B-Base-0414在15T高质量数据上进行了预训练，其中包含大量推理型合成数据。这为后续的强化学习扩展奠定了基础。在后训练阶段，我们针对对话场景进行了人类偏好对齐。此外，通过拒绝采样和强化学习等技术，我们增强了模型在指令遵循、工程代码和函数调用方面的表现，从而强化了智能体任务所需的原子能力。GLM-4-32B-0414在工程代码、Artifact生成、函数调用、基于搜索的问答和报告生成等方面取得了良好效果。特别是在代码生成或特定问答任务等多项基准测试中，GLM-4-32B-Base-0414的表现与GPT-4o和DeepSeek-V3-0324（671B）等更大规模的模型相当。

GLM-Z1-32B-0414是一款具备深度思考能力的推理模型。这是基于GLM-4-32B-0414通过冷启动、扩展强化学习以及在数学、代码和逻辑等任务上的进一步训练开发而成。与基础模型相比，GLM-Z1-32B-0414显著提升了数学能力和解决复杂任务的能力。在训练过程中，我们还引入了基于成对排序反馈的通用强化学习，从而增强了模型的通用能力。

GLM-Z1-Rumination-32B-0414是一款具备反刍能力的深度推理模型（对标OpenAI的深度研究）。与典型的深度思考模型不同，反刍模型能够进行更深层次和更长时间的思考，以解决更开放和复杂的问题（例如撰写两座城市人工智能发展的对比分析及其未来发展计划）。Z1-Rumination通过扩展端到端强化学习进行训练，其响应由真实答案或评分标准进行分级，并能在深度思考过程中利用搜索工具处理复杂任务。该模型在研究式写作和复杂任务方面表现出显著提升。

最后，GLM-Z1-9B-0414是一个惊喜。我们采用了上述所有技术训练了一个小型模型（9B）。GLM-Z1-9B-0414在数学推理和通用任务上展现出卓越的能力。其整体表现在同规模开源模型中名列前茅。尤其在资源受限的场景下，该模型在效率和效果之间实现了出色的平衡，为寻求轻量级部署的用户提供了强有力的选择。

展示

动画生成

网页设计

GLM-4-32B-0414	GLM-4-32B-0414
设计一个支持自定义函数绘制的绘图板，允许添加和删除自定义函数，并为函数分配颜色。（提示由中文翻译）	设计一个移动机器学习平台的UI，应包括训练任务、存储管理和个人统计界面。个人统计界面应使用图表展示用户在一段时间内的资源使用情况。使用Tailwind CSS为页面添加样式，并将这3个移动界面平铺在一个HTML页面上。（提示由中文翻译）

SVG生成

GLM-4-32B-0414	GLM-4-32B-0414
使用SVG创作一幅烟雨江南的场景。（提示由中文翻译）	使用SVG展示LLM的训练过程。（提示由中文翻译）

基于搜索的写作

对于基于搜索的写作任务，我们使用以下系统提示让模型根据搜索结果作答：

请根据所给搜索返回结果对用户问题进行作答。

## 注意
1. 充分利用和整理收集到的信息，而不是简单的复制粘贴，生成符合用户要求且有深度的专业答案。
2. 所提供信息充分的情况下，你的回答需尽可能延长，从用户意图角度出发，提供具有足够信息量和多角度的回复。
3. 另外，并非所有的搜索结果都与用户问题密切相关，请仔细的甄别、筛选和利用。
4. 客观类问答的答案通常非常简短，你可以适当补充一到两句相关信息，以丰富内容。
5. 请确保你的回复格式美观、可读性强。对于多实体对比或列举，善用列表格式来帮助用户更好的理解信息。
6. 除非用户要求，否则你回答的语言请于用户提问语言保持一致。
7. 在适当情况下在句子末尾使用例如:【0†source】的格式引用搜索结果。

使用时，可通过RAG或WebSearch等方法获取搜索结果，并将其包装在observation中，例如：

[
    {
        "role": "user",
        "content": "探索儿童文学的共同特征，重点关注其叙事技巧和主题倾向。这包括叙事技巧：儿童文学中常见的方法，如第一人称、第三人称、全知叙述者和互动叙事，以及它们对年轻读者的影响。还包括主题倾向：儿童文学中反复出现的主题，如成长、冒险、友谊和家庭，并分析这些主题如何影响儿童的认知和情感发展。此外，还应考虑其他普遍特征，如拟人化、重复语言、象征和隐喻的使用以及教育价值。请根据学术研究、儿童文学经典案例和专家意见提供详细的分析报告。"
    },
    {
        "role": "observation",
        "content": "【{id}†{title}†{url}】\n{content}"
    },
    ...
]

对于上述提示，我们使用内部或外部搜索模型获取搜索结果。采用上述格式后，可以生成以下分析报告：