🚀 基于句子转换器/all-MiniLM-L6-v2的句子转换器模型

本模型是基于 句子转换器/all-MiniLM-L6-v2 在 JSON 数据集上微调得到的 句子转换器 模型。它可将句子和段落映射到 384 维的密集向量空间，适用于语义文本相似度计算、语义搜索、释义挖掘、文本分类、聚类等任务。

🚀 快速开始

安装依赖库

首先，你需要安装 sentence-transformers 库：

pip install -U sentence-transformers

加载模型并进行推理

from sentence_transformers import SentenceTransformer

# 从 🤗 Hub 下载模型
model = SentenceTransformer("GbrlOl/finetune-embedding-all-MiniLM-L6-v2-geotechnical-test-v4")
# 运行推理
sentences = [
    '¿Cuál es el factor de seguridad mínimo para el corto plazo en caso de falla superficial estática en el botadero Sur?',
    'Plan de Cierre - Faena Minera Salares Norte |   95 \n \nTabla 8-13: Criterios para el Análisis de Estabilidad del Botadero Sur \nCondición FS Mínimo \nCorto Plazo \n(operacional) \nFalla Superficial  Estático 1,0 \nSísmico (1) \nFalla Profunda  Estático 1,5 \nSísmico 1,2 \nLargo Plazo \n(post-cierre) \nFalla Superficial  Estático 1,1 \nSísmico (1) \nFalla Profunda  Estático 1,5 \nSísmico 1,1 \n(1): El material es depositado me diante volteo de camiones y queda con su ángulo de reposo. Las fallas \nsuperficiales pueden ocurrir, pero las bermas de seguridad evitarán mayores deslizamientos de material.  \nPara los análisis que involucren al depósito de relaves filtrados, ya sea por si solo o junto al botadero Sur, el factor \nde seguridad mínimo para el corto plazo es de 1,5 para casos estáticos y 1,2 para la condición sísmica. Para el largo \nplazo, en tanto, el factor de seguridad mínimo para la condición sísmica es de 1,1. \nLos factores de seguridad obtenidos de los análisis de estabilidad son presentados en la Tabla 8-14 y en la Tabla 8-15. \nTodos los análisis indican que; tanto el diseño del botadero Sur, como el diseño del depósito de relaves filtrados, por \nsí solos como en conjunto, cumplen con los diseños de criterios d e los factores de seguridad.  \nLos análisis de fallas profundas han incorporado la determinación del factor de seguridad mínimo para fallas que \nimplican la totalidad del depósito, así como fallas que involucran 2 o 3 bancos, que pueden ser más críticos que \naquellos que involucran la totalidad del depósito.',
    'Sin perjuicio de ello, en este \nplan de cierre temporal se ha hecho un análisis a nive l de juicio experto respecto de los riesgos \nque se indican en la siguiente tabla.  \nTabla 3-3: Riesgos evaluados Instalaciones Complementarias y Auxiliares. \nInstalación Riesgos evaluados \nInstalaciones \nComplementarias \ny Auxiliares \nIA.1) Caída de Personas o animales a desnivel \nIA.2) Caída de objetos o materiales sobre personas o animales \nIA.3) Afectación a la salud de las personas por estructuras, \nmateriales y/o suelos contaminados \nFuente: Elaborado por MYMA, 2019 \n3.1 Evaluación de Riesgos \na) Evaluación de Riesgos previo a la definición de las medidas de cierre \nUna vez establecida la probabilidad de ocurrencia de los eventos y la severidad de las \nconsecuencias para las personas y el medio ambiente, se debe catalogar el límite de aceptabilidad \ndel riesgo.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 384]

# 获取嵌入向量的相似度分数
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

✨ 主要特性

• 语义理解能力强：能够准确捕捉句子和段落的语义信息，将其映射到 384 维的密集向量空间，从而实现高效的语义文本相似度计算、语义搜索等任务。
• 应用场景广泛：可用于语义文本相似度、语义搜索、释义挖掘、文本分类、聚类等多种自然语言处理任务。
• 基于预训练模型微调：以 句子转换器/all-MiniLM-L6-v2 为基础模型进行微调，充分利用了预训练模型的知识，提高了模型的性能和泛化能力。

📚 详细文档

模型详情

模型描述

模型来源

• 文档：句子转换器文档
• 代码仓库：GitHub 上的句子转换器
• Hugging Face：Hugging Face 上的句子转换器

完整模型架构

SentenceTransformer(
  (0): Transformer({'max_seq_length': 256, 'do_lower_case': False}) with Transformer model: BertModel 
  (1): Pooling({'word_embedding_dimension': 384, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

评估指标

语义相似度

• 数据集：sts_dev
• 评估方法：使用 EmbeddingSimilarityEvaluator 进行评估

二分类

• 数据集：quora_duplicates_dev
• 评估方法：使用 BinaryClassificationEvaluator 进行评估

训练详情

训练数据集

• 数据集：json
• 规模：1,622 个训练样本
• 列信息：包含 query、sentence 和 label 三列
• 近似统计信息（基于前 1000 个样本）：

  	查询	句子	标签
  类型	字符串	字符串	整数
  详情	最小：9 个词元 平均：25.34 个词元 最大：69 个词元	最小：54 个词元 平均：233.59 个词元 最大：256 个词元	0：约 59.70% 1：约 40.30%

• 样本示例：

  查询	句子	标签
  Indica si se utiliza Proctor Modificado, o Normal o Estándar para compactar el relave filtrado, y cuál es el nivel de compactación	PLAN DE CIERRE TEMPO RAL – FAENA MINERA EL TOQUI Sociedad Contractual Minera El Toqui Capítulo 7 – Análisis de las Instalaciones REVISIÓN [ 0] 7-107 Figura 7-38: Ubicación Parque Eólico Fuente: SCMET, 2018 - Red de Abastecimiento de Energía : Está compuesta por todas las instalaciones utilizadas para la distribución de la energía hacia todos los sectores de la faena, se compone de: o Líneas de alta tensión: 30.000 metros lineales. o Líneas de baja tensión: 2.000 metros lineales. o Estaciones de combustible: Las minas que cuentan con estaciones de combustible corresponden a Concordia, Estatuas, Doña Rosa. o Subestaciones eléctricas: A continuación se presenta una tabla con las subestaciones significativas y sus características. o Sala eléctrica de la Planta de Procesos o Subestación eléctrica TDR Confluencia (fue desmantelada).	0
  ¿Cuál es la ubicación del Pozo Monitoreos?	64 Figura 5.42: Caminos internos de acceso (2) . 64 Figura 5.43: Patio de RISES . 65 Figura 5.44: Bodega de almacenamiento temporal de residuos peligrosos . 66 Figura 5.45: Bodega de almacenamiento de residuos domésticos . 67 Figura 5.46: Ubicación Pozo Monitoreos . 100 Figura 5.47: Caminos internos Planta Catemu . 107 ANEXOS ANEXO A : . ANTECEDENTES LEGALES ANEXO B : . RESOLUCIONES ANEXO C: . PROPIEDAD MINERA ANEXO D: . INFORME DE VIDA ÚTIL ANEXO E: . PLANOS ANEXO F: . EVALUACIÓN DE RIESGOS ANEXO G: . PLANILLA DE VALORIZACIÓN ANEXO H: . RESPALDO DE PRECIOS UNITARIOS ANEXO I: . GARANTÍA FINANCIERA	1
  se especifican antecedentes geofísicos?	Hay numerosas comunidades edáficas, una de las cuales es el bosque de arrayán (Luma apiculata), de las orillas de ríos y lagos. Considerando la clasificación de la vegetación natural de Chile de Gajardo (1993), las instalaciones en cuestión se ubican en la formación del Bosque caducifolio de Aysén, que engloba básicamente a bosques de lenga (Nothofagus pumilio), los que pueden encontrarse desde el sur de la X Región, pero están representados en su forma característica en la XI Región. Son relativamente homogéneos en composición florística y en su estructura, distribuyéndose en un ambiente con un fuerte gradiente de precipitación de oeste a este, sobre un relieve de grandes variaciones en la altitud. Ha sido muy afectado por la intervención humana, persistiendo su condición original solamente en sectores locales. Con relación a las especies de flora terrestre en categoría de conservación, en la undécima región existen 2 especies que se encuentran incluidas en el listado naci...	0

• 损失函数：使用 CoSENTLoss，参数如下：

  {
      "scale": 20.0,
      "similarity_fct": "pairwise_cos_sim"
  }
  

训练超参数

非默认超参数

• per_device_train_batch_size：16
• per_device_eval_batch_size：16
• learning_rate：2e-05
• num_train_epochs：100
• warmup_ratio：0.1
• fp16：True
• batch_sampler：no_duplicates

所有超参数

训练日志

框架版本

• Python：3.10.16
• Sentence Transformers：3.3.1
• Transformers：4.48.1
• PyTorch：2.5.1+cu124
• Accelerate：1.3.0
• Datasets：3.2.0
• Tokenizers：0.21.0

📄 许可证

文档中未提及相关许可证信息。

📚 引用

BibTeX

句子转换器

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

CoSENTLoss

@online{kexuefm-8847,
    title={CoSENT: A more efficient sentence vector scheme than Sentence-BERT},
    author={Su Jianlin},
    year={2022},
    month={Jan},
    url={https://kexue.fm/archives/8847},
}