模型标识：tscholak/cxmefzzi

基于T5-3B架构微调的权重，专为PICARD——基于语言模型的约束自回归增量解析方法优化设计。

训练数据

模型在Spider文本转SQL数据集的7000个训练样本上进行了微调。该模型能够解决Spider提出的零样本文本到SQL转换任务，展现出对未见过数据库结构的泛化能力。

训练目标

以T5-3B为基座模型，通过文本到文本生成任务进行微调。输入格式包含自然语言问题、数据库标识符及表结构信息：

[问题] | [数据库ID] | [表名]: [列名]([内容],[内容]),[列名](...) | [表名]: ... | ...

模型输出为数据库标识符及对应SQL查询：

[数据库ID] | [SQL语句]

性能表现

• 基础性能：

  • 开发集：精确匹配准确率71.5%，执行准确率74.4%
  • 测试集：精确匹配准确率68.0%，执行准确率70.1%

• 启用PICARD约束解码后：

  • 开发集：精确匹配准确率75.5%，执行准确率79.3%
  • 测试集：精确匹配准确率71.9%，执行准确率75.1%
    （PICARD实现详见官方代码库）

使用说明

评估与服务部署脚本请参考官方仓库。

参考文献

1. PICARD论文
2. PICARD官方实现

引用格式

@inproceedings{Scholak2021:PICARD,
  author    = {Torsten Scholak and Nathan Schucher and Dzmitry Bahdanau},
  title     = "{PICARD}: Parsing Incrementally for Constrained Auto-Regressive Decoding from Language Models",
  booktitle = "Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing",
  month     = nov,
  year      = "2021",
  publisher = "Association for Computational Linguistics",
  url       = "https://aclanthology.org/2021.emnlp-main.779",
  pages     = "9895--9901",
}