language: es
tags:

• 西班牙语
• BART
• 法律

thumbnail: https://huggingface.co/mrm8488/bart-legal-base-es/resolve/main/bart_legal_logo-min.png

datasets:

• 西班牙法律语料库

西班牙法律BART模型 ⚖️

西班牙法律BART（基础版）是一个类似BART的模型，基于西班牙法律领域语料库集合训练而成。

BART是一种编码器-解码器（序列到序列）的Transformer模型，具有双向（类似BERT）的编码器和自回归（类似GPT）的解码器。BART通过以下方式预训练：(1) 使用任意噪声函数破坏文本，(2) 学习模型以重建原始文本。

该模型在微调后特别适用于文本生成任务（如摘要、翻译），同时在理解任务（如文本分类、问答）上也表现良好。

训练细节

• 数据集：西班牙法律语料库 - 90%用于训练，10%用于验证。
• 训练脚本：参见此处。

评估指标 🧾

基准测试 🔨

开发中 🚧

如何使用transformers

from transformers import BartForConditionalGeneration, BartTokenizer  

model_id = "mrm8488/bart-legal-base-es"  

model = BartForConditionalGeneration.from_pretrained(model_id, forced_bos_token_id=0)  
tokenizer = BartTokenizer.from_pretrained(model_id)  

def fill_mask_span(text):  
  batch = tokenizer(text, return_tensors="pt")  
  generated_ids = model.generate(batch["input_ids"])  
  print(tokenizer.batch_decode(generated_ids, skip_special_tokens=True))  

text = "Los españoles son <mask> ante la ley."  
fill_mask_span(text)  
# 输出：['Los españoles son iguales ante la ley.1.ª y 2.ª ante la']  

text = "Los proyectos de reforma Constitucional deberán <mask> por una mayoría de tres quintos de cada una de las Cámaras."  
fill_mask_span(text)  
# 输出：['Los proyectos de reforma Constitucional deberán ser aprobados por una mayoría de tres quintos de cada']  

致谢

• Narrativa
• QBlocks
• jarvislabs

引用

如果您想引用此模型，可以使用以下格式：

@misc {manuel_romero_2023,  
	author       = { {Manuel Romero} },  
	title        = { bart-legal-base-es (Revision c33ed22) },  
	year         = 2023,  
	url          = { https://huggingface.co/mrm8488/bart-legal-base-es },  
	doi          = { 10.57967/hf/0472 },  
	publisher    = { Hugging Face }  
}  

由Manuel Romero/@mrm8488创建

西班牙制造，用❤️打造