许可证: llama3.1
数据集:

• TheFinAI/Fino1_Reasoning_Path_FinQA
  语言:
• 英文
  基础模型:
• meta-llama/Llama-3.1-8B-Instruct
  管道标签: 文本生成

🦙 Fino1-8B

Fino1-8B 是基于 Llama 3.1 8B Instruct 微调的版本，旨在提升 [金融推理任务] 的性能。该模型通过 SFT 和 RF 在 TheFinAI/Fino1_Reasoning_Path_FinQA 上训练，增强了其在 金融推理任务 中的能力。
更多细节请查阅我们的论文 arxiv.org/abs/2502.08127。

📌 模型详情

• 模型名称: Fino1-8B
• 基础模型: Meta Llama 3.1 8B Instruct
• 微调数据集: TheFinAI/Fino1_Reasoning_Path_FinQA（源自 FinQA 数据集）
• 训练方法: SFT 和 RF
• 目标: [提升特定任务表现，如金融数学推理]
• 分词器: 继承自 Llama 3.1 8B Instruct

📊 训练配置

• 训练硬件: GPU: [例如 4xH100]
• 批大小: [例如 16]
• 学习率: [例如 2e-5]
• 训练轮数: [例如 3]
• 优化器: [例如 AdamW, LAMB]

🔧 使用方法

使用 Hugging Face 的 transformers 库加载 Fino1-8B：

from transformers import AutoModelForCausalLM, AutoTokenizer  

model_name = "TheFinAI/Fino1-8B"  

tokenizer = AutoTokenizer.from_pretrained(model_name)  
model = AutoModelForCausalLM.from_pretrained(model_name)  

input_text = "3-5 的结果是多少？"  
inputs = tokenizer(input_text, return_tensors="pt")  

output = model.generate(**inputs, max_new_tokens=200)  
print(tokenizer.decode(output[0], skip_special_tokens=True))  

💡 引用

如果在研究中使用此模型，请引用：

@article{qian2025fino1,  
  title={Fino1: 论推理增强型大语言模型在金融领域的可迁移性},  
  author={钱凌飞 and 周伟鹏 and 王岩 and 彭雪晴 and 黄继敏 and 谢倩倩},  
  journal={arXiv 预印本 arXiv:2502.08127},  
  year={2025}  
}