语言:

• 英语 许可证: Apache-2.0 库名称: transformers 数据集:
• ms_marco 管道标签: 文本到文本生成 小部件:
• 文本: 如何烘焙完美的饼干 管道标签: 文本到文本生成 推理配置: 生成配置: 最大长度: 35 束搜索数: 1 是否采样: 是 重复惩罚系数: 1.8 标签:
• 代码

模型概述

这是一个专为搜索查询改写设计的生成模型，采用序列到序列架构来生成重新表述的查询。它利用强化学习框架进一步提升性能，整合了策略梯度算法。该模型通过旨在通过改写关键词来多样化生成查询的奖励函数进行训练。它可以与稀疏检索方法（如基于bm25的检索）集成，以增强搜索中的文档召回率。

预期用例

搜索查询改写（网页、电子商务）、虚拟助手和聊天机器人、信息检索

模型描述

训练流程

1. 训练过程首先使用谷歌的T5-base模型初始化序列到序列模型。
2. 最初，模型使用MS-MARCO查询对数据集进行监督训练。
3. 随后，模型通过强化学习（RL）框架进行微调，以增强其生成既多样化又相关查询的能力。
4. 它采用策略梯度方法微调模型。对于给定的输入查询，从模型中采样一组轨迹（改写后的查询）并计算奖励。应用策略梯度算法更新模型。
5. 奖励通过启发式方法计算以增强模型的改写能力。然而，这些奖励可以根据需要替换为其他领域特定或目标特定的奖励函数。

更多详情请参考此处。

模型来源

• 代码库: https://github.com/PraveenSH/RL-Query-Reformulation