许可证: apache-2.0
语言:

• 英文
  标签:
• 代码
• 网络安全
• 渗透测试
• 黑客技术
  数据集:
• CyberNative/Code_Vulnerability_Security_DPO
• diffnamehard/toxic-dpo-v0.1-NoWarning-alpaca
• mlabonne/chatml-OpenHermes2.5-dpo-binarized-alpha

Prox 7B DPO

OpenVoid AI 出品

Discord: https://discord.gg/CBDAbKkgNV

模型描述

本模型基于 Mistral-7b-v0.2，这是 MistralAI 于 2024 年 3 月 23 日发布的新基础模型（但尚未在 HuggingFace 上正式发布）。该模型已在包含黑客技术和编程相关信息的微调数据集上进行训练，旨在提升其在这些领域的任务表现。

预期用途与限制

本模型旨在协助完成与黑客技术和编程相关的多种自然语言处理任务，例如：

• 代码生成
• 代码解释与文档编写
• 回答有关黑客技术和网络安全的问题
• 为编程项目提供见解与建议

但需注意：虽然模型已针对黑客和编程数据进行了微调，但不可将其用于关键安全应用或非法活动。在实际应用前，应由相关领域专家仔细审查和验证模型的输出结果。

训练数据

prox-7b 模型基于 OpenVoid AI 专有的微调数据集训练而成，该数据集包含多样化的黑客技术与编程相关内容。

训练超参数

训练过程中使用的超参数如下：

• 学习率: 2e-05
• 训练批大小: 4
• 评估批大小: 8
• 随机种子: 42
• 分布式类型: 多 GPU
• 设备数量: 2
• 梯度累积步数: 4
• 总训练批大小: 32
• 总评估批大小: 16
• 优化器: Adam（参数 betas=(0.9,0.95)，epsilon=1e-08）
• 学习率调度器类型: 余弦退火
• 学习率预热步数: 100
• 训练步数: 414

训练采用分布式多 GPU 配置以加速处理流程并应对大模型规模。