标签:

• 由Keras回调生成 模型索引:
• 名称: GeoBERT 结果: []

GeoBERT

GeoBERT 是一个基于 SciBERT 在 Geoscientific Corpus 数据集上微调的命名实体识别（NER）模型。 该模型在标注的 Geoscientific Corpus 数据集（约100万句子）上进行训练。

预期用途

该模型的NER产品旨在识别与地球科学相关的四种主要语义类型或类别：

1. GeoPetro：属于地球科学领域的所有术语实体
2. GeoMeth：与地球科学相关的所有工具或方法
3. GeoLoc：识别地质位置
4. GeoTime：识别地质时间尺度的实体

训练超参数

训练过程中使用了以下超参数：

• 优化器：{'name': 'AdamWeightDecay', 'learning_rate': {'class_name': 'PolynomialDecay', 'config': {'initial_learning_rate': 2e-05, 'decay_steps': 14000, 'end_learning_rate': 0.0, 'power': 1.0, 'cycle': False, 'name': None}}, 'decay': 0.0, 'beta_1': 0.9, 'beta_2': 0.999, 'epsilon': 1e-08, 'amsgrad': False, 'weight_decay_rate': 0.01}
• 训练精度：mixed_float16

框架版本

• Transformers 4.22.1
• TensorFlow 2.10.0
• Datasets 2.4.0
• Tokenizers 0.12.1

模型性能（指标：seqeval）

如何使用HuggingFace运行GeoBERT

加载GeoBERT及其子词分词器：

from transformers import AutoTokenizer, AutoModelForTokenClassification

tokenizer = AutoTokenizer.from_pretrained("botryan96/GeoBERT")
model = AutoModelForTokenClassification.from_pretrained("botryan96/GeoBERT")

#定义管道
from transformers import pipeline
ner_machine = pipeline('ner',model = models,tokenizer=tokenizer, aggregation_strategy="simple")

#定义句子
sentence = '在北美，渗流面模型中的水储存量高于基准情况，因为正孔隙压力是通过渗流面边界条件排水的必要条件。电阻率数据的结果支持这一观点，尤其是在砂岩沉积地层的北部。美国的活动地层根据地震剖面显示，具有巨大的石油和天然气潜力，自古生代以来一直处于活跃状态。'

#部署NER机器
ner_machine(sentence)