语言:

• 西班牙语

数据集:

• squad_es

示例:

• 文本: "黑斯廷斯战役中的公爵是谁？" 上下文: "诺曼王朝对中世纪欧洲乃至近东地区产生了深远的政治、文化和军事影响。诺曼人以尚武精神闻名，最终皈依基督教虔诚，成为他们所同化的天主教正统典范。他们采用法兰克土地上的高卢罗曼语，其方言被称为诺曼法语、诺曼底语或诺曼语，是一种重要的文学语言。通过与法国王室条约建立的诺曼底公国，是中世纪法国的重要封地，在理查一世统治时期发展为封建制度下凝聚力强盛的强大公国。诺曼人的特色体现在其文化、独特的罗马式建筑和音乐传统，以及重要的军事成就与创新。诺曼冒险家在征服南意大利的萨拉森人和拜占庭人后，由罗杰二世建立了西西里王国；而以其公爵征服者威廉之名发起的远征，则导致了诺曼人对英格兰的征服。诺曼人的文化和军事影响从这些欧洲新中心扩展到近东的十字军国家——其王子博希蒙德一世在地中海黎凡特建立了安条克公国，并延伸至不列颠的苏格兰和威尔士。"

这是基于BSC-TeMU/roberta-base-bne模型（源码）在squad_es v2.0.0数据集（源码）上训练得到的模型。

当前成绩：em=58.80，f1=67.40

结果：

{
    "epoch": 4.0,
    "eval_HasAns_exact": 48.51551956815115,
    "eval_HasAns_f1": 65.70745010262016,
    "eval_HasAns_total": 5928,
    "eval_NoAns_exact": 69.0893760539629,
    "eval_NoAns_f1": 69.0893760539629,
    "eval_NoAns_total": 5930,
    "eval_best_exact": 58.804182830156854,
    "eval_best_exact_thresh": 0.0,
    "eval_best_f1": 67.39869828034618,
    "eval_best_f1_thresh": 0.0,
    "eval_exact": 58.804182830156854,
    "eval_f1": 67.39869828034568,
    "eval_samples": 12211,
    "eval_total": 11858
}

训练脚本：

python -m torch.distributed.launch --nproc_per_node=3 ./run_qa.py \
    --model_name_or_path BSC-TeMU/roberta-base-bne \
    --dataset_name squad_es \
    --dataset_config_name v2.0.0 \
    --do_train \
    --do_eval \
    --learning_rate 3e-5 \
    --num_train_epochs 4 \
    --max_seq_length 384 \
    --doc_stride 128 \
    --output_dir ./models/roberta-base-bne-squad-2.0-es/ \
    --per_device_eval_batch_size=8   \
    --per_device_train_batch_size=8   \
    --version_2_with_negative \
    --ddp_find_unused_parameters=False \
    --overwrite_output_dir \