🚀 大五人格预测模型

本项目基于微调后的模型，能够根据输入文本准确预测个体的大五人格特质。通过使用精心挑选的数据集和迁移学习技术，模型在预测准确性上取得了显著提升，为个人了解自身人格特质提供了有力的工具。

🚀 快速开始

使用以下代码开始使用该模型：

from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch

def personality_detection(text, threshold=0.05, endpoint=1.0):
    token = "Write_Your_HUG_Access_token_Id_Here"
    tokenizer = AutoTokenizer.from_pretrained("Nasserelsaman/microsoft-finetuned-personality", token=token)
    model = AutoModelForSequenceClassification.from_pretrained("Nasserelsaman/microsoft-finetuned-personality", token=token)

    inputs = tokenizer(text, truncation=True, padding=True, return_tensors="pt")
    outputs = model(**inputs)
    predictions = outputs.logits.squeeze().detach().numpy()

    # 获取原始对数几率
    logits = model(**inputs).logits

    # 应用Sigmoid函数将值压缩到0到1之间
    probabilities = torch.sigmoid(logits)

    # 将小于阈值的值设置为0.05
    predictions[predictions < threshold] = 0.05
    predictions[predictions > endpoint] = 1.0

    label_names = ['Agreeableness', 'Conscientiousness', 'Extraversion', 'Neuroticism', 'Openness']
    result = {label_names[i]: f"{predictions[i]*100:.0f}%" for i in range(len(label_names))}

    return result

✨ 主要特性

• 高精度预测：通过迁移学习，使用 microsoft/MiniLM-L12-H384-uncased 模型，将人格特质的预测准确率提高到了 97% 以上，相比之前基于 roberta-large 的模型（65%）有了显著提升。
• 便捷评估：仅依赖迷你大五人格评估（20 个问题），使评估更加简单方便。
• 多场景适用：可直接用于个人了解自身人格特质，也可用于后续特定需求的微调。

📦 安装指南

在运行上述代码前，请确保你已经安装了 transformers 库，可以使用以下命令进行安装：

pip install transformers

💻 使用示例

基础用法

text_input = "Strongly Agree with that I am the life of the party. Disagree with that I sympathize with others’ feelings. Strongly Agree with that I get chores done right away. Disagree with that I have frequent mood swings. Disagree with that I have a vivid imagination. Neutral with that I don’t talk a lot. Strongly Disagree with that I am not interested in other people’s problems. Neutral with that I often forget to put things back in their proper place. Strongly Agree with that I am relaxed most of the time. Neutral with that I am not interested in abstract ideas. Strongly Agree with that I talk to a lot of different people at parties. Agree with that I feel others’ emotions. Disagree with that I like order. Strongly Agree with that I get upset easily. Neutral with that I have difficulty understanding abstract ideas. Strongly Disagree with that I keep in the background. Agree with that I am not really interested in others. Strongly Disagree with that I make a mess of things. Strongly Agree with that I seldom feel blue. Strongly Disagree with that I do not have a good imagination."

personality_prediction = personality_detection(text_input)
print(personality_prediction)

输出结果

{
    "Agreeableness": "5%",
    "Conscientiousness": "5%",
    "Extraversion": "6%",
    "Neuroticism": "100%",
    "Openness": "5%"
}

📚 详细文档

模型描述

本项目为了预测大五人格特质，采用了迁移学习方法，使用 microsoft/MiniLM-L12-H384-uncased 模型。通过精心挑选的人格特质数据集，对模型在人格特质和输入文本之间的学习模式进行了优化。

数据集

模型基于 Kaggle 上的数据集进行微调，该数据集包含由 Open Psychometrics 在线收集的 1,015,342 份问卷答案。数据集链接

微调过程

1. 数据预处理：在 Colab 上对数据进行预处理，仅选取迷你大五人格评估的 20 个问题，将 20 个问题合并为一个新列 "text"，并计算人格类型作为 "label" 列。
2. 模型训练：使用 Colab（免费 GPU）对 microsoft/MiniLM-L12-H384-uncased 基础模型进行微调，超参数设置如下：
   • 学习率（learning_rate）：5e-6
   • 批次大小（batch_size）：64
   • 最大序列长度（max_seq_length）：275
   • 训练轮数（num_train_epochs）：3

模型使用场景

直接使用

个人可以直接使用该人格预测模型，根据输入文本了解自己的人格特质。该模型仅用于教育和研究目的，作者对其他用途不承担责任。

下游使用

该模型可用于后续特定需求的微调。

超出适用范围的使用

在就业、教育或法律等领域，对人员做出重要决策时，请谨慎使用该模型。

风险与限制

人格预测模型与其他机器学习模型一样，存在一定的局限性和潜在偏差，使用时需加以考虑。

建议

为降低人格预测模型带来的风险和局限性，建议遵循以下准则：

• 了解模型局限性：用户应了解模型的局限性和潜在偏差，认识到人格特质是多方面的，不能完全由单一模型或文本分析来代表。
• 避免刻板印象和歧视：用户在做出判断或结论时，应谨慎依赖预测的人格特质，避免基于人格预测对他人进行歧视或强化刻板印象。
• 结合上下文解读：将模型的预测结果置于具体情境中，并结合输入文本之外的其他信息进行综合评估。
• 保障数据隐私和安全：确保用户数据的安全处理，符合隐私法规。用户在提供个人信息时应保持谨慎。
• 促进道德使用：鼓励正确使用人格预测模型，避免滥用或有害使用。

🔧 技术细节

训练轮数与准确性

训练仅进行了 3 个轮次，从第二轮开始就取得了较高的准确率，且未出现过拟合现象，具体数据如下：

未过拟合原因

1. 大量训练数据：使用了包含 360,855 个样本的大型训练数据集，模型有足够的数据进行学习。
2. 预训练模型优势：使用预训练语言模型 microsoft/MiniLM-L12-H384-uncased 进行初始化，比随机初始化收敛更快。该模型具有 12 层、384 隐藏层、12 头、33M 参数，比 BERT-Base 快 2.7 倍。更多详细信息可参考论文 "MiniLM: Deep Self-Attention Distillation for Task-Agnostic Compression of Pre-Trained Transformers"。
3. 低损失值：仅经过 2 - 3 个轮次，训练和验证损失就较低，表明模型能够正确拟合数据，未出现过拟合。
4. 稳定学习曲线：随着轮次增加，准确率提高，损失值降低，呈现出平稳的连续学习趋势，而非出现波动，这也表明模型未过拟合。

评估指标

使用的评估指标包括准确率、召回率和 F1 分数：

• 准确率：训练数据（0.976524） - 测试数据（0.9765239651189411）
• 召回率：{'recall': 0.9765239651189411}
• F1 分数：{'f1': 0.9765239651189411}

模型总结

最终微调模型

https://huggingface.co/Nasserelsaman/microsoft-finetuned-personality

模型 Streamlit 应用

https://personality-assessment.streamlit.app/

项目基础

本项目基于 The Mini IPIP personality measure

📄 许可证

本项目采用 MIT 许可证。

👨‍💻 模型卡片作者

Prepared by: Nasser Elsaman