base_model: 阿里巴巴NLP/gte-multilingual-base datasets:

• nlpai-lab/韩语三元组数据集-v1.0 language:
• 韩语 library_name: sentence-transformers metrics:
• 余弦准确率
• 点积准确率
• 曼哈顿距离准确率
• 欧氏距离准确率
• 最大准确率 pipeline_tag: 句子相似度 tags:
• 句子转换器
• 句子相似度
• 特征提取
• 训练生成
• 数据集规模:10000
• 损失函数:多重负样本排序损失 widget:
• 源句: 雨，下，梨，浮 句子:
  • 他喜欢的水果是橘子、苹果、梨和柿子。
  • 目前工业生产的凝胶平均分子量约为(1.00 \times 10^{5})，而普鲁兰多糖的平均分子量根据培养条件和所用菌株不同，在(1.50 \times 10^{4})到(1.00 \times 10^{7})之间。
  • 雨下得太大，连船都浮不起来。
• 源句: 学校，英语，交换，学生，送 句子:
  • 《舞蹈高手》节目希望通过青少年舞者的舞蹈对决，展现韩国才华横溢、充满活力的青少年形象。制作方呼吁大家多多关注和支持。
  • 学校借此机会派出了英语交换生。
  • 才艺包括礼仪、音乐、射箭、写作、骑马、算术等。
• 源句: 徘徊，一阵子，现在，生活，哥哥 句子:
  • 曾经四处漂泊生活的哥哥，现在过得很认真。
  • 才艺包括礼仪、音乐、射箭、写作、骑马、算术等。
  • 尽管训练师熟练地骑上了狮子背，观众们还是捏了一把汗。
• 源句: 爷爷，年纪，大，精力，好，矍铄 句子:
  • 爷爷虽然年事已高，但天生精力充沛，精神矍铄。
  • "匈牙利宪法第XII条：(1)每个人都有自由选择职业、工作和企业经营的权利。每个人都有义务充分发挥能力和潜力，为社区建设做贡献。(2)匈牙利应努力为所有有工作能力和意愿的人创造就业机会的条件。"
  • 才艺指的是礼仪、音乐、射箭、写作、骑马、算术。
• 源句: 住持，行礼，布施，敲，人，木鱼 句子:
  • 2006年6月1日~第二阶段第二年项目启动
  • 住持向布施者敲击木鱼行礼。
  • 才艺指的是礼仪、音乐、射箭、写作、骑马、算术。 model-index:
• 名称: 基于阿里巴巴NLP/gte-multilingual-base的SentenceTransformer 结果:
  • 任务: 类型: 三元组 名称: 三元组 数据集: 名称: 开发集 类型: 开发集 指标:
    • 类型: 余弦准确率 值: 0.985499462943072 名称: 余弦准确率
    • 类型: 点积准确率 值: 0.014500537056928034 名称: 点积准确率
    • 类型: 曼哈顿距离准确率 值: 0.985499462943072 名称: 曼哈顿距离准确率
    • 类型: 欧氏距离准确率 值: 0.985499462943072 名称: 欧氏距离准确率
    • 类型: 最大准确率 值: 0.985499462943072 名称: 最大准确率

基于阿里巴巴NLP/gte-multilingual-base的SentenceTransformer

这是一个基于阿里巴巴NLP/gte-multilingual-base模型，在nlpai-lab/韩语三元组数据集-v1.0数据集上微调的sentence-transformers模型。它将句子和段落映射到768维的密集向量空间，可用于语义文本相似度、语义搜索、复述挖掘、文本分类、聚类等任务。

模型详情

模型描述

• 模型类型: 句子转换器
• 基础模型: 阿里巴巴NLP/gte-multilingual-base
• 最大序列长度: 8192个token
• 输出维度: 768个token
• 相似度函数: 余弦相似度
• 训练数据集:
  • nlpai-lab/韩语三元组数据集-v1.0
• 语言: 韩语

模型来源

• 文档: Sentence Transformers文档
• 代码库: GitHub上的Sentence Transformers
• Hugging Face: Hugging Face上的Sentence Transformers

完整模型架构

SentenceTransformer(
  (0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: NewModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

使用方法

直接使用(Sentence Transformers)

首先安装Sentence Transformers库：

pip install -U sentence-transformers

然后可以加载此模型并运行推理。

from sentence_transformers import SentenceTransformer

# 从🤗 Hub下载
model = SentenceTransformer("scottsuk0306/gte-base-ko")
# 运行推理
sentences = [
    '住持，行礼，布施，敲，人，木鱼',
    '住持向布施者敲击木鱼行礼。',
    '才艺指的是礼仪、音乐、射箭、写作、骑马、算术。',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# 获取嵌入向量的相似度分数
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

评估

评估指标

三元组

• 数据集: 开发集
• 使用TripletEvaluator评估

训练详情

训练数据集

nlpai-lab/韩语三元组数据集-v1.0

• 数据集: nlpai-lab/韩语三元组数据集-v1.0
• 规模: 10,000个训练样本
• 列: 锚点, 正例, 和 负例
• 基于前1000个样本的近似统计:

  	锚点	正例	负例
  类型	字符串	字符串	字符串
  详情	最小: 9个token 平均: 22.12个token 最大: 146个token	最小: 10个token 平均: 92.69个token 最大: 1815个token	最小: 8个token 平均: 99.24个token 最大: 880个token

• 样本:

  锚点	正例	负例
  写作，比赛，参赛费，收	写作比赛向参赛者收取了一定的参赛费。	才艺包括礼仪、音乐、射箭、写作、骑马、算术等。
  "K联赛2002赛季"的观众人数是否少于在德国戈特利布·戴姆勒体育场举办的"第四届世界田径锦标赛"的观众人数？	1993年世界田径锦标赛。第四届世界田径锦标赛由国际田联主办，于1993年8月13日至22日在德国斯图加特戈特利布·戴姆勒体育场举行。这是德国首次举办世界田径锦标赛。共有来自187个国家的1630名运动员参赛，吸引了58.5万名观众入场，创下赛事历史最高纪录。	宋康昊。职业生涯。1996-2000:早期经历与崭露头角。1999年，他参演了姜帝圭导演的电影《生死谍变》，饰演李章吉一角。该片以582万观影人次刷新了当时韩国电影的最高票房纪录，成为首部突破500万观影人次的电影。2000年，他在喜剧电影《犯规王》中首次担纲主演。为了这部电影，他接受了摔跤训练。后来宋康昊表示这部电影给他印象最深，"那是我经历过最极限的体能挑战。如果现在再让我摔跤，我会死的"。同年，他参演了朴赞郁导演的电影《共同警备区JSA》，饰演吴景弼中士。该片以583万观影人次成为当时韩国票房冠军。宋康昊在2019年接受媒体采访时表示，这两部电影是他演员生涯的转折点。一位电影界人士曾对他说："看了你在《犯规王》中的出色表演，我以为这已经是演技的巅峰了。但看了这部新片，我才意识到低估了你的演技潜力。"《每日经济》的影评写道："宋康昊塑造的温暖宽厚的吴景弼中士形象，将那些看似散漫的互动转化成了感人的兄弟情谊"。凭借这些好评，他获得了第1届釜山电影评论家协会奖、第38届大钟奖、第3届多维尔亚洲电影节等多个奖项的最佳男主角奖，并在百想艺术大赏等颁奖礼上获得人气奖，演技和明星魅力得到了广泛认可。
  触发器会存储数据吗？	触发器驱动天线测试设备生成测试场景，并根据场景控制天线部分的发射器和接收器进行测量，从而存储数据。	为什么电影院里的声音听起来特别真实？为什么CRT显示器虽然设计丑陋但声音效果很好？这些问题的答案可以在电影院的银幕中找到。

• 损失函数: 多重负样本排序损失 参数:

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim"
  }
  

评估数据集

nlpai-lab/韩语三元组数据集-v1.0

• 数据集: nlpai-lab/韩语三元组数据集-v1.0
• 规模: 3,724个评估样本
• 列: 锚点, 正例, 和 负例
• 基于前1000个样本的近似统计:

  	锚点	正例	负例
  类型	字符串	字符串	字符串
  详情	最小: 6个token 平均: 21.63个token 最大: 143个token	最小: 8个token 平均: 88.89个token 最大: 2003个token	最小: 10个token 平均: 102.66个token 最大: 3190个token

• 样本:

  锚点	正例	负例
  地下，车道，驶出，右转，做，目的地，到达	快速驶出地下车道后立即右转就能到达目的地。	才艺指的是礼仪、音乐、射箭、写作、骑马、算术。
  正文表6中当packet length=0.5且节点数为4时，Basic CSMA/CA的数学分析值是多少？	表6. 不同包长下IEEE 802.11 MAC协议的仿真结果与分析结果对比 节点数 包长=0.5 包长=0.3 Basic CSMA/CA RTS/CTS协议 Basic CSMA/CA RTS/CTS协议 仿真 数学分析 仿真 数学分析 仿真 数学分析 仿真 数学分析 1 0.670 0.672 0.682 0.673 0.625 0.625 0.570 0.571 2 0.772 0.770 0.746 0.735 0.708 0.710 0.650 0.652 3 0.779 0.781 0.780 0.772 0.739 0.738 0.690 0.690 4 0.780 0.783 0.785 0.784 0.740 0.741 0.700 0.701 5 0.780 0.782 0.811 0.797 0.739 0.738 0.710 0.713 6 0.780 0.782 0.811 0.810 0.735 0.735 0.720 0.720 7 0.764 0.752 0.812 0.811 0.731 0.728 0.728 0.729 8 0.753 0.748 0.815 0.814 0.700 0.701 0.730 0.731 9 0.750 0.746 0.816 0.816 0.690 0.687 0.735 0.733 10 0.742 0.741 0.821 0.820 0.675 0.672 0.735 0.734 15 0.730 0.728 0.821 0.822 0.650 0.651 0.735 0.736 20 0.686 0.681 0.821 0.822 0.630 0.630 0.740 0.741	表5和表6是数学分析结果与计算机仿真结果的对比表。
  午休时间，有氧运动，做	为了健康，午休时间做了有氧运动。	今天的午餐是黑米饭、蛤蜊海带汤、辣炒鸡肉、凉拌荠菜、萝卜干和泡菜。

• 损失函数: 多重负样本排序损失 参数:

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim"
  }
  

训练超参数

非默认超参数

• eval_strategy: 按步数评估
• per_device_train_batch_size: 16
• per_device_eval_batch_size: 16
• learning_rate: 1e-05
• num_train_epochs: 1
• warmup_ratio: 0.1
• bf16: 启用
• push_to_hub: 启用
• hub_model_id: scottsuk0306/gte-base-ko
• batch_sampler: 无重复采样

训练日志

框架版本

• Python: 3.11.9
• Sentence Transformers: 3.0.1
• Transformers: 4.44.2
• PyTorch: 2.4.0+cu121
• Accelerate: 1.1.1
• Datasets: 2.19.0
• Tokenizers: 0.19.1

引用

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

多重负样本排序损失

@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply}, 
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}