COLD2

由 fkrasnov2 开发

COLD2是一个基于PyTorch的填充掩码模型，专门用于解决电子商务领域搜索查询中缺失词语的问题。

大型语言模型

Transformers

其他

#电商搜索补全 #俄语语境优化 #实时查询填充

下载量 19

发布时间 : 10/15/2024

模型介绍

内容详情

替代品

模型简介

该模型利用查询的上下文生成可能缺失的词语，适用于电子商务平台的搜索查询补全。

模型特点

电子商务优化

专门针对电子商务领域的搜索查询进行优化，能够准确补全商品相关词汇。

上下文理解

能够理解查询的上下文，生成语义相关的补全词语。

多平台支持

支持在PyTorch和transformers.js等多种平台上运行。

模型能力

搜索查询补全

上下文词语预测

电子商务领域文本处理

使用案例

电子商务

搜索查询补全

自动补全用户输入的搜索查询中的缺失词语

提高搜索准确性和用户体验

商品推荐

根据部分查询预测可能的完整商品名称

提升商品发现率

许可证：无许可证
语言：

俄语
标签：
PyTorch
电子商务
transformers.js
任务类型：填充掩码
小部件示例：
文本：电子设备充电器 [MASK] USB
库名称：transformers

该模型用于解决搜索查询中缺失词语的问题。模型利用查询的上下文生成可能缺失的词语。

## 别忘了安装依赖
# pip install protobuf sentencepiece

from transformers import pipeline
unmasker = pipeline("fill-mask", model="fkrasnov2/COLD2", device="cuda")
unmasker("电子设备 充电器 [MASK] USB")

[{'score': 0.3712620437145233,
  'token': 1131,
  'token_str': '车载',
  'sequence': '电子设备 充电器 车载 usb'},
 {'score': 0.12239563465118408,
  'token': 7436,
  'token_str': '快速',
  'sequence': '电子设备 充电器 快速 usb'},
 {'score': 0.046715956181287766,
  'token': 5819,
  'token_str': '有线',
  'sequence': '电子设备 充电器 有线 usb'},
 {'score': 0.031308457255363464,
  'token': 635,
  'token_str': '通用',
  'sequence': '电子设备 充电器 通用 usb'},
 {'score': 0.02941182069480419,
  'token': 2371,
  'token_str': '适配器',
  'sequence': '电子设备 充电器 适配器 usb'}]

使用连词介词可以优化分词效果。

unmasker("服装 女士 [MASK] 节日专用")

[{'score': 0.9355553984642029,
  'token': 503,
  'token_str': '连衣裙',
  'sequence': '服装 女士 连衣裙 节日专用'},
 {'score': 0.011321154423058033,
  'token': 615,
  'token_str': '戒指',
  'sequence': '服装 女士 戒指 节日专用'},
 {'score': 0.008672593161463737,
  'token': 993,
  'token_str': '饰品',
  'sequence': '服装 女士 饰品 节日专用'},
 {'score': 0.0038903721142560244,
  'token': 27100,
  'token_str': '斗篷',
  'sequence': '服装 女士 斗篷 节日专用'},
 {'score': 0.003703165566548705,
  'token': 453,
  'token_str': '内衣',
  'sequence': '服装 女士 内衣 节日专用'}]

对于transformers.js，需要使用模型的ONNX版本

from transformers import AutoTokenizer
from optimum.onnxruntime import ORTModelForMaskedLM

tokenizer = AutoTokenizer.from_pretrained("fkrasnov2/COLD2") 
model = ORTModelForMaskedLM.from_pretrained("fkrasnov2/COLD2", file_name='model.onnx')

您也可以直接在浏览器中运行和使用该模型

index.html

<!DOCTYPE html>
<html lang="ru">
<head>
    <meta charset="UTF-8">
    <meta name="viewport" content="width=device-width, initial-scale=1.0">
    <title>填充掩码</title>
    <link rel="stylesheet" href="styles.css">
    <script src="main.js" type="module" defer></script>
</head>
<body>
    <div class="container">
        <textarea id="long-text-input" placeholder="输入包含[MASK]的搜索查询"></textarea>
        <button id="generate-button">
            填充掩码
        </button>
        <div id="output-div"></div>
    </div>
</body>
</html>

main.js

import { pipeline } from 'https://cdn.jsdelivr.net/npm/@huggingface/transformers@3.0.2';

const longTextInput = document.getElementById('long-text-input');
const output = document.getElementById('output-div');
const generateButton = document.getElementById('generate-button');

const pipe = await pipeline(
    'fill-mask', // 任务类型
    'fkrasnov2/COLD2' // 模型名称
);

generateButton.addEventListener('click', async () => {
    const input = longTextInput.value;
    const result = await pipe(input);
    output.innerHTML = result[0].sequence;
    output.style.display = 'block';
});