语言:

• 英文 库名称: transformers 任务标签: 文本生成 标签:
• 埃斯珀
• 埃斯珀-3
• 英勇
• 英勇实验室
• 千问
• 千问-3
• 千问-3-4B
• 4B
• 推理
• 代码
• 代码指令
• Python
• JavaScript
• 开发运维
• Jenkins
• Terraform
• 脚本编写
• PowerShell
• Azure
• AWS
• GCP
• 云
• 问题解决
• 架构师
• 工程师
• 开发者
• 创意
• 分析
• 专家
• 理性
• 对话
• 聊天
• 指令 基础模型: Qwen/Qwen3-4B 数据集:
• sequelbox/Titanium2.1-DeepSeek-R1
• sequelbox/Tachibana2-DeepSeek-R1
• sequelbox/Raiden-DeepSeek-R1 许可证: apache-2.0

支持我们的开源数据集和模型发布！

埃斯珀 3: Qwen3-4B, Qwen3-8B, Qwen3-14B

埃斯珀 3 是基于千问 3 构建的编码、架构和开发运维推理专家。

• 微调使用了我们通过 Deepseek R1 生成的开发运维和架构推理以及代码推理数据！
• 改进了通用和创意推理，以增强问题解决和一般聊天性能。
• 小模型尺寸允许在本地桌面和移动设备上运行，同时支持超快速的服务器推理！

提示指南

埃斯珀 3 使用千问 3的提示格式。

埃斯珀 3 是一个推理微调模型；我们建议在所有聊天中启用 enable_thinking=True。

以下是入门示例推理脚本：

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "ValiantLabs/Qwen3-4B-Esper3"

# 加载分词器和模型
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto"
)

# 准备模型输入
prompt = "编写一个使用 `aws_ami` 数据源查找最新 Amazon Linux 2 AMI 的 Terraform 配置。然后，使用这个动态确定的 AMI ID 配置一个 EC2 实例。"
messages = [
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True,
    enable_thinking=True # 在思考和非思考模式之间切换。默认为 True。
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

# 进行文本补全
generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=32768
)
output_ids = generated_ids[0][len(model_inputs.input_ids[0]):].tolist() 

# 解析思考内容
try:
    # rindex 查找 151668 (</think>)
    index = len(output_ids) - output_ids[::-1].index(151668)
except ValueError:
    index = 0

thinking_content = tokenizer.decode(output_ids[:index], skip_special_tokens=True).strip("\n")
content = tokenizer.decode(output_ids[index:], skip_special_tokens=True).strip("\n")

print("思考内容:", thinking_content)
print("内容:", content)

埃斯珀 3 由英勇实验室创建。

查看我们的 HuggingFace 页面，了解我们所有的模型！

我们关心开源。为了每个人都能使用。