license: apache-2.0 language:

• en base_model:

• MasterControlAIML/DeepSeek-R1-Strategy-Qwen-2.5-1.5b-Unstructured-To-Structured pipeline_tag: text-generation library_name: transformers tags:
• DeepSeek
• R1
• SFT
• Qwen
• JSON
• Unstructured
• Structured

MasterControlAIML R1-Qwen2.5-1.5b SFT R1 JSON 非结构化转结构化模型

本仓库提供了一个经过微调的Qwen2模型，专门用于将非结构化文本按照预定义的JSON模式转换为结构化输出。该模型基于基础模型MasterControlAIML/DeepSeek-R1-Strategy-Qwen-2.5-1.5b-Unstructured-To-Structured进行微调，并利用LoRA技术实现高效适配。

核心亮点:

• 开发者: bhaviktheslider
• 许可证: Apache-2.0
• 微调基础: MasterControlAIML/DeepSeek-R1-Strategy-Qwen-2.5-1.5b-Unstructured-To-Structured
• 加速训练: 使用Unsloth和Hugging Face的TRL库实现2倍训练加速。

目录

• 概述
• 特性
• 安装
• 快速开始
  • 使用Unsloth进行快速推理
  • 使用Transformers进行推理
• 提示词与代码示例 - 运行方法
  • 示例：使用LangChain进行高级数据提取
• 样本响应与思维链解释
• 贡献
• 许可证
• 致谢

概述

本模型专为需要将非结构化文本（如手册、问答文档）映射为结构化JSON格式的任务而设计。它支持基于给定JSON模式的分层数据提取，确保生成的输出严格遵循模式定义的结构和规则。

特性

• 高效推理: 利用Unsloth库实现快速模型推理。
• 结构化输出: 将文本输入映射为具有层级关系的严格JSON模式。
• 灵活集成: 提供使用Unsloth API和Hugging Face Transformers的代码片段示例。
• 高级提示: 下文提供使用Alpaca提示模板和LangChain提示模板的详细示例。

安装

先决条件

• Python: 3.8+
• PyTorch: （建议支持CUDA）
• 必要库: transformers, torch, unsloth, langchain（用于高级用法）

安装命令

通过以下命令安装所需的Python包：

pip install torch transformers unsloth langchain

快速开始

使用Unsloth进行快速推理

Unsloth库可快速加载并运行模型推理。以下是基础示例：

from unsloth import FastLanguageModel
import torch

MODEL = "MasterControlAIML/DeepSeek-R1-Qwen2.5-1.5b-SFT-R1-JSON-Unstructured-To-Structured"

# 加载模型和分词器
model, tokenizer = FastLanguageModel.from_pretrained(
    model_name=MODEL,
    max_seq_length=2048,
    dtype=None,
    load_in_4bit=False,
)

# 准备推理
FastLanguageModel.for_inference(model)

ALPACA_PROMPT = """
以下是描述任务的指令，附带提供进一步上下文的输入。编写一个适当完成请求的响应。
### 指令:
{}
### 响应:
{}
"""

# 示例指令和提示
instruction = ""（见下文示例）
prompt = ALPACA_PROMPT.format(instruction, "")
inputs = tokenizer([prompt], return_tensors="pt").to("cuda")
output = model.generate(**inputs, max_new_tokens=2000)

# 打印生成文本
print(tokenizer.batch_decode(output, skip_special_tokens=True)[0])

使用Transformers进行推理

也可直接使用Hugging Face的Transformers：

from transformers import AutoTokenizer, AutoModelForCausalLM, TextStreamer
import torch

MODEL = "MasterControlAIML/DeepSeek-R1-Qwen2.5-1.5b-SFT-R1-JSON-Unstructured-To-Structured"

# 初始化分词器和模型
tokenizer = AutoTokenizer.from_pretrained(MODEL)
model = AutoModelForCausalLM.from_pretrained(MODEL, torch_dtype=torch.float16, device_map="auto")

ALPACA_PROMPT = """
以下是描述任务的指令，附带提供进一步上下文的输入。编写一个适当完成请求的响应。
### 指令:
{}
### 响应:
{}
"""

TEXT = ""（见下文示例）
prompt = ALPACA_PROMPT.format(TEXT, "")
inputs = tokenizer([prompt], return_tensors="pt").to("cuda")
text_streamer = TextStreamer(tokenizer)

with torch.no_grad():
    output_ids = model.generate(
        input_ids=inputs["input_ids"],
        attention_mask=inputs["attention_mask"],
        max_new_tokens=2000,
        temperature=0.7,
        top_p=0.9,
        repetition_penalty=1.1,
        streamer=text_streamer,
        pad_token_id=tokenizer.pad_token_id,
    )

print(tokenizer.decode(output_ids[0], skip_special_tokens=True))

提示词与代码示例

示例：使用LangChain进行高级数据提取

代码

from langchain_core.prompts import PromptTemplate

# 示例文本输入（结构略有不同）
TEXT1 = """
质量保证手册概述

本文档介绍了制造过程的质量保证程序。

## 制造过程简介

本节涵盖制造过程的基础知识，包括定义和简史。

| 名称                | 描述               |
|---------------------|---------------------------|
| 过程1           | 制造过程中的初始步骤。|

### 详细过程1

该过程精炼材料以满足特定标准。

| 参数 | 范围    |
|-----------|----------|
| 温度 | 200-300°C |

**操作参数**

这些操作参数对过程成功至关重要。

| 设置 | 类别      |
|---------|------------|
| 关键 | 高精度 |
"""

# 不同的JSON模式示例
SCHEMA1 = """
{
  "$schema": "http://json-schema.org/draft-07/schema#",
  "type": "object",
  "properties": {
    "id": {
      "type": "string",
      "description": "用点分隔的整数表示元素的层级ID。"
    },
    "title": {
      "type": "string",
      "description": "章节或组件的描述性标题。"
    },
    "level": {
      "type": "integer",
      "description": "从0开始的层级。"
    },
    "level_type": {
      "type": "string",
      "enum": ["ROOT", "SECTION", "SUBSECTION", "DETAIL_N"],
      "description": "层级类型。"
    },
    "component": {
      "type": "array",
      "items": {
        "type": "object",
        "properties": {
          "idc": {
            "type": "integer",
            "description": "顺序唯一的组件ID。"
          },
          "component_type": {
            "type": "string",
            "enum": ["PARAGRAPH", "TABLE", "CALCULATION", "CHECKBOX"],
            "description": "组件类型。"
          },
          "metadata": {
            "type": "string",
            "description": "额外的元数据标记（可能是<title>、<note>或<overview>）。"
          },
          "properties": {
            "type": "object",
            "properties": {
              "variables": {
                "type": "array",
                "items": {
                  "type": "object",
                  "properties": {
                    "idx": {
                      "type": "string",
                      "description": "唯一标识符，X.Y（X代表行，Y代表列，对于表格；否则为0）。"
                    },
                    "name": {
                      "type": "string",
                      "description": "属性名称。"
                    },
                    "value": {
                      "type": "string",
                      "description": "属性值。"
                    },
                    "unit": {
                      "type": "string",
                      "description": "可选单位。"
                    },
                    "metrics": {
                      "type": "boolean",
                      "description": "标记变量是否为指标。"
                    },
                    "formula": {
                      "type": "boolean",
                      "description": "标记变量是否有公式。"
                    }
                  }
                }
              },
              "content": {
                "type": "array",
                "items": {
                  "type": "string"
                },
                "description": "文本内容（如注释、多选题、问题、要点等）。"
              }
            }
          }
        }
      }
    },
    "children": {
      "type": "array",
      "items": {
        "$ref": "#"
      },
      "description": "嵌套元素。"
    }
  },
  "required": ["id", "title", "level", "level_type", "component", "children"]
}
"""

# LangChain提示词，用于指导模型
SYSTEM_PROMPT = """
### 角色:
您是专门将分层文本数据映射到给定JSON模式的专家数据提取器。

### 数据输入:
- **文本:** ```{TEXT}```  
- **空白JSON模式:** ```{SCHEMA}```  

### 任务要求:
1. 分析给定文本，将所有相关信息严格映射到提供的JSON模式中。
2. 在输出中提供**两个必填部分**:
   - **`<answer>`:** 填充后的JSON对象  
   - **`<think>`:** 映射决策的理由  

### 输出结构:

`<think> /* 映射逻辑的解释 */ </think>`
`<answer> /* 完整的JSON对象 */ </answer>`