🚀 neuralmind/bert-base-portuguese-cased

本模型是预训练模型 neuralmind/bert-base-portuguese-cased 的微调版本。它专门用于将巴西立法提案（PLs）分类为对妇女权利有利或不利，依据是提案的摘要（ementa）和全文内容。该模型旨在理解法律背景下性别影响的细微差别。

🚀 快速开始

此部分文档未提供快速开始的相关内容，可根据实际情况补充如何加载和使用该模型的代码示例等内容。

✨ 主要特性

• 特定任务适配：专门针对巴西立法提案进行微调，用于判断其对妇女权利的影响。
• 采用BERT架构：利用BERT在自然语言理解任务上的优势，识别法律文本中的模式和术语。

📦 安装指南

此部分文档未提供安装相关内容，若使用该模型，可参考 transformers 库的安装方式，例如使用以下命令：

pip install transformers

💻 使用示例

此部分文档未提供代码示例，以下为假设的使用示例：

基础用法

from transformers import AutoTokenizer, AutoModelForSequenceClassification

# 加载模型和分词器
tokenizer = AutoTokenizer.from_pretrained('neuralmind/bert-base-portuguese-cased')
model = AutoModelForSequenceClassification.from_pretrained('neuralmind/bert-base-portuguese-cased')

# 示例文本
text = "示例的立法提案文本内容"
inputs = tokenizer(text, return_tensors='pt')

# 进行预测
outputs = model(**inputs)
predictions = outputs.logits.argmax(dim=1)

print(predictions)

📚 详细文档

模型描述

本模型是预训练模型 neuralmind/bert-base-portuguese-cased 的微调版本，专门用于将巴西立法提案（PLs）分类为对妇女权利有利或不利，依据是提案的摘要和全文内容。模型使用BERT架构，适用于自然语言理解任务，能够识别法律文本中与妇女权利相关的模式和术语。

使用和限制

• 主要用途：将巴西立法提案（PLs）分类为对妇女权利有利或不利。
• 目标用户：政治学家、记者、法律专业人士、性别平等倡导者、分析立法文本的研究人员，以及基于性别平等考虑对法律文件进行自动分类的自动化系统。
• 应用领域：
  • 立法分析
  • 性别平等倡导
  • 政治和法律研究
  • 法律文件自动分类

训练和评估数据

模型使用 自定义数据集 进行微调，该数据集包含巴西立法提案（PLs），特别关注与妇女权利相关的主题，包括提案的摘要和全文。

更多关于模型评估的信息，请查看 项目仓库。

训练超参数

训练过程中使用了以下超参数：

• 学习率：1e-05
• 训练批次大小：64
• 评估批次大小：64
• 随机种子：5151
• 优化器：AdamW（PyTorch），betas=(0.9, 0.999)，epsilon=1e-08（优化器无额外参数）
• 学习率调度器类型：线性
• 学习率调度器热身步数：150
• 训练轮数：19

训练结果

框架版本

• Transformers：4.47.0
• PyTorch：2.5.1+cu121
• Datasets：3.2.0
• Tokenizers：0.21.0

伦理考虑

本模型用于对立法文本进行分类，可能会产生重大的社会和政治影响。因此，必须谨慎考虑如何解释和使用模型的输出，特别是在敏感环境中。 用于训练模型的数据集应定期审查和更新，以确保其反映当前的立法语言以及性别平等理解和斗争的模式。

🔧 技术细节

此模型基于BERT架构，BERT是一种预训练的自然语言处理模型，通过双向编码器表示从大规模文本数据中学习语言的语义和语法信息。在本任务中，模型针对巴西立法提案进行微调，以适应特定的分类任务。通过使用自定义数据集，模型学习到与妇女权利相关的文本特征和模式，从而能够准确分类提案对妇女权利的影响。

📄 许可证

本项目采用 MIT 许可证。