微件:

• 文本: "回来时我买了一升[MASK]。" 示例标题: "示例1" 流水线标签: 填充掩码 标签:
• 土耳其语
• turkish 语言:
• tr

土耳其基础版无大小写区分BERT模型

此为土耳其基础版无大小写区分的BERT模型。由于该模型不区分大小写：turkish和Turkish将被视为相同。

⚠ 使用无大小写模型需手动转换为小写

请勿在分词器中使用do_lower_case = True参数。应按照以下方式将文本转为小写：

text.replace("I", "ı").lower()

此操作源于分词器的一个已知问题。

请注意，该模型可能表现出预测偏差，因其主要基于网络爬取数据训练，这些数据本身可能包含各种偏见。

更多相关信息可参阅论文。

使用示例

from transformers import AutoTokenizer, BertForMaskedLM
from transformers import pipeline

model = BertForMaskedLM.from_pretrained("ytu-ce-cosmos/turkish-base-bert-uncased")
# 或
# model = BertForMaskedLM.from_pretrained("ytu-ce-cosmos/turkish-base-bert-uncased", from_tf = True)

tokenizer = AutoTokenizer.from_pretrained("ytu-ce-cosmos/turkish-base-bert-uncased")

unmasker = pipeline('fill-mask', model=model, tokenizer=tokenizer)
unmasker("回来时我买了一升[MASK]。")
[{'score': 0.6248273253440857,
  'token': 2417,
  'token_str': '水',
  'sequence': '回来时我买了一升水。'},
 {'score': 0.10369712114334106,
  'token': 2168,
  'token_str': '更多',
  'sequence': '回来时我买了一升更多。'},
 {'score': 0.06832519918680191,
  'token': 11818,
  'token_str': '汽油',
  'sequence': '回来时我买了一升汽油。'},
 {'score': 0.027739914134144783,
  'token': 11973,
  'token_str': '啤酒',
  'sequence': '回来时我买了一升啤酒。'},
 {'score': 0.02571810781955719,
  'token': 7279,
  'token_str': '酒精',
  'sequence': '回来时我买了一升酒精。'}]

致谢

• 研究由Google TensorFlow研究云(TFRC)提供的Cloud TPU支持。感谢TFRC提供访问权限 ❤️
• 感谢Hugging Face团队的慷慨支持，使我们能够从其S3存储下载模型 🤗

引用文献

@article{kesgin2023developing,
  title={开发与评估土耳其语小型至中型BERT模型},
  author={凯斯金, 希姆梅特·托普拉克 and 尤斯, 穆扎弗尔·卡安 and 阿马萨利, 穆罕默德·法提赫},
  journal={arXiv预印本 arXiv:2307.14134},
  year={2023}
}

许可证

MIT