库名称: transformers
许可证: gemma
语言:

• 日语
  基础模型:
• google/gemma-3-12b-it
  任务标签: 图像文本到文本
  标签:
• gemma-3
• 日语
• 文本生成

AXCXEPT/EZO2.5-gemma-3-12b-it-Preview

模型详情

通过将近期提出的"GRPO"和"PPO"概念（这些概念使LLM能够自主提升自身能力）与我们开发的"EZO"训练方法相结合，我们成功地在仅使用3,000个数据集和2小时×H200×8台的训练条件下，提升了基础模型在Japanese MT Bench和Elyza Tasks100上的日语性能。

尽管这一训练方法仍处于研究阶段，需要进一步实现自动化并进行消融研究，但我们认为它提供了一种在有限预算下替代复杂且耗时的强化学习方法（如GRPO/PPO）的可行途径。

基准测试

原本就具备极高日语性能的google/gemma-3-12b-it模型，在短时间内训练后性能进一步提升。部分指标已接近32B和72B模型，随着基础模型性能的提升，专用性能也得到了改善。
*需要注意的是，未来需要增加基准测试的多样性，因此我们计划在英语环境下进行更多测试，以验证训练成果的实用性。

使用方法

可在单块A40 GPU上运行。

vllm serve AXCXEPT/EZO2.5-gemma-3-12b-it-Preview --max-model-len 32768 --enforce-eager  

from openai import OpenAI  
client = OpenAI(  
    base_url="http://localhost:8000/v1",  
    api_key="token-abc123",  
)  

prompt = """每天早上Aya会进行9公里的步行，之后在咖啡店停留。当她以每小时s公里的恒定速度步行时，整个行程（包括在咖啡店停留的t分钟）需要4小时。当她以每小时s+2公里的速度步行时，整个行程需要2小时24分钟（包括t分钟的咖啡店停留时间）。假设Aya以每小时s+1/2公里的速度步行，求整个行程所需的总分钟数（包括咖啡店停留的t分钟）。"""  
completion = client.chat.completions.create(  
  model="AXCXEPT/EZO2.5-gemma-3-12b-it-Preview",  
  messages=[  
    {"role": "user", "content": prompt}  
  ],  
  temperature=0.0,  
  top_p=1.0,  
  max_tokens=20480  
)  

print(completion.choices[0].message)  

基准测试分数基于temperature: 0.0、top_p: 1.0、"max_tokens": 20480的推理结果。尚未进行Cons@64等波动性评估。

许可证

本模型为研究目的开发。使用前请知悉：本公司及开发者不对使用导致的任何损害承担责任。

特别致谢

我们对开发本模型基础架构的Google公司及其团队致以崇高敬意。