语言:

• 英文 库名称: transformers 任务标签: 文本生成 标签:
• 埃斯佩尔
• 埃斯佩尔3
• 英勇
• 英勇实验室
• 千问
• 千问3
• 千问3-8B
• 8B
• 推理
• 代码
• 代码指令
• Python
• JavaScript
• 开发运维
• Jenkins
• Terraform
• 脚本编写
• PowerShell
• Azure
• AWS
• GCP
• 云
• 问题解决
• 架构师
• 工程师
• 开发者
• 创意
• 分析
• 专家
• 理性
• 对话
• 聊天
• 指令 基础模型: Qwen/Qwen3-8B 数据集:
• sequelbox/Titanium2.1-DeepSeek-R1
• sequelbox/Tachibana2-DeepSeek-R1
• sequelbox/Raiden-DeepSeek-R1 许可证: apache-2.0

支持我们的开源数据集和模型发布！

埃斯佩尔3: Qwen3-4B, Qwen3-8B, Qwen3-14B

埃斯佩尔3是基于千问3构建的代码、架构和开发运维推理专家。

• 使用我们通过Deepseek R1生成的开发运维和架构推理及代码推理数据进行了微调！
• 改进了通用和创意推理，以增强问题解决和一般聊天表现。
• 小模型尺寸允许在本地桌面和移动设备上运行，以及超快的服务器推理！

提示指南

埃斯佩尔3使用千问3的提示格式。

埃斯佩尔3是一个推理微调模型；我们建议在所有聊天中启用enable_thinking=True。

示例推理脚本入门：

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "ValiantLabs/Qwen3-8B-Esper3"

# 加载分词器和模型
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto"
)

# 准备模型输入
prompt = "编写一个使用`aws_ami`数据源查找最新Amazon Linux 2 AMI的Terraform配置。然后，使用这个动态确定的AMI ID配置一个EC2实例。"
messages = [
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True,
    enable_thinking=True # 在思考和非思考模式之间切换。默认为True。
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

# 进行文本补全
generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=32768
)
output_ids = generated_ids[0][len(model_inputs.input_ids[0]):].tolist() 

# 解析思考内容
try:
    # rindex查找151668 (</think>)
    index = len(output_ids) - output_ids[::-1].index(151668)
except ValueError:
    index = 0

thinking_content = tokenizer.decode(output_ids[:index], skip_special_tokens=True).strip("\n")
content = tokenizer.decode(output_ids[index:], skip_special_tokens=True).strip("\n")

print("思考内容:", thinking_content)
print("内容:", content)

埃斯佩尔3由英勇实验室创建。

查看我们的HuggingFace页面，了解我们所有的模型！

我们关心开源。供所有人使用。