基础模型信息

基础模型：defog/sqlcoder-7b
推理支持：否
语言：英语
许可证：CC-BY-SA-4.0
模型创建者：Defog.ai
模型名称：SQLCoder 7B
模型类型：Mistral
任务标签：文本生成

提示模板

## 任务  
生成SQL查询以回答以下问题：  
`{prompt}`  

### 数据库模式  
此查询将在以下模式表示的数据库上运行：  
CREATE TABLE products (  
  product_id INTEGER PRIMARY KEY, -- 每个产品的唯一ID  
  name VARCHAR(50), -- 产品名称  
  price DECIMAL(10,2), -- 每个产品的单价  
  quantity INTEGER  -- 当前库存数量  
);  

CREATE TABLE sales (  
  sale_id INTEGER PRIMARY KEY, -- 每个销售记录的唯一ID  
  product_id INTEGER, -- 销售产品的ID  
  customer_id INTEGER,  -- 购买客户的ID  
  salesperson_id INTEGER, -- 销售人员的ID  
  sale_date DATE, -- 销售日期  
  quantity INTEGER -- 销售产品数量  
);  

-- sales.product_id可与products.product_id关联  

### SQL  
根据数据库模式，以下是回答`{prompt}`的SQL查询：  
```sql  

量化信息

量化提供方：TheBloke
标签：代码

模型描述

本仓库包含Defog.ai的SQLCoder 7B的GGUF格式模型文件，量化过程由Massed Compute提供硬件支持。

GGUF格式说明

GGUF是llama.cpp团队于2023年8月21日推出的新格式，用于替代不再支持的GGML格式。支持该格式的客户端和库包括llama.cpp、text-generation-webui、KoboldCpp等。

可用仓库

• GPU推理的AWQ模型
• 多种量化参数的GPTQ模型
• 2至8位GGUF模型（CPU+GPU推理）
• Defog.ai原始未量化fp16模型

兼容性说明

量化后的GGUFv2文件需配合2023年8月27日后提交的llama.cpp使用（commit d0cee0d或更高版本）。

量化方法详解

提供多种量化选项，包括Q2_K至Q8_0的不同位宽方案，具体文件大小和推荐用途详见量化文件列表。

下载与运行

支持通过huggingface-cli命令行或兼容客户端（如LM Studio）下载。运行示例提供llama.cpp和Python（ctransformers库）的调用方式。

原始模型卡信息

SQLCoder-7B是基于Mistral-7B微调的模型，在自然语言转SQL任务上优于gpt-3.5-turbo，并在特定模式微调后超越gpt-4。训练数据包含2万+人工标注问题，覆盖10种不同数据库模式。模型权重采用CC BY-SA 4.0许可，允许商用但要求衍生模型开源。

性能对比

在未参与训练的新数据集上，SQLCoder-7B正确率达71%，显著优于主流开源模型。按问题类型细分，其在连接查询（join）、分组（group_by）等场景表现优异。

使用要求

推荐使用40GB显存的A100 GPU运行BF16权重版本，也可在RTX 3090等消费级GPU上加载8位或4位量化模型。

未来计划

包括扩展训练数据多样性、通过奖励建模和RLHF进一步优化模型，以及开发专精SQL分析的预训练模型。