🚀 Lumimaid 0.2

Lumimaid 0.2是基于Meta-Llama-3.1-70B-Instruct的模型，在数据集方面相较于0.1版本有了巨大的提升。它经过了数据的不断添加、清理等操作，为用户提供更优质的使用体验。

8b - 12b - [70b] - 123b

📚 详细文档

模型基础

本模型基于：Meta-Llama-3.1-70B-Instruct Wandb链接：https://wandb.ai/undis95/Lumi-Llama-3-1-70B?nw=nwuserundis95

版本升级

从Lumimaid 0.1到0.2，在数据集方面是一个巨大的飞跃。由于有人反馈模型输出比较杂乱，开发者决定清理大部分杂乱的聊天数据。自项目开始以来，数据集一直保持着更新，不断添加数据、清理数据并重复这个过程。此前因一直不满意而未发布新模型，现在团队认为是时候回归了！

提示模板

采用Llama-3-Instruct提示模板：

<|begin_of_text|><|start_header_id|>system<|end_header_id|>

{system_prompt}<|eot_id|><|start_header_id|>user<|end_header_id|>

{input}<|eot_id|><|start_header_id|>assistant<|end_header_id|>

{output}<|eot_id|>

训练数据

我们用于构建数据集的训练数据来源如下：

• Epiculous/Gnosis
• ChaoticNeutrals/Luminous_Opus
• ChaoticNeutrals/Synthetic-Dark-RP
• ChaoticNeutrals/Synthetic-RP
• Gryphe/Sonnet3.5-SlimOrcaDedupCleaned
• Gryphe/Opus-WritingPrompts
• meseca/writing-opus-6k
• meseca/opus-instruct-9k
• PJMixers/grimulkan_theory-of-mind-ShareGPT
• NobodyExistsOnTheInternet/ToxicQAFinal
• Undi95/toxic-dpo-v0.1-sharegpt
• cgato/SlimOrcaDedupCleaned
• kalomaze/Opus_Instruct_25k
• Doctor-Shotgun/no-robots-sharegpt
• Norquinal/claude_multiround_chat_30k
• nothingiisreal/Claude-3-Opus-Instruct-15K
• 所有Aesirs数据集，已清理、去除杂乱内容
• 所有le luminae数据集，已清理、去除杂乱内容
• Airoboros的一小部分精简数据

遗憾的是，我们未找到以下数据集的来源，如果您认出是您的数据集，请联系我们！

• Opus_Instruct-v2-6.5K-Filtered-v2-sharegpt
• claude_sharegpt_trimmed
• CapybaraPure_Decontaminated-ShareGPT_reduced

🔗 相关人员与支持

贡献者

• Undi
• IkariDev

数据集贡献者

• Epiculous
• ChaoticNeutrals
• Gryphe
• meseca
• PJMixers
• NobodyExistsOnTheInternet
• cgato
• kalomaze
• Doctor-Shotgun
• Norquinal
• nothingiisreal

支持与访问

• Undi：如果您想支持我们，可以点击此处。
• IkariDev：请访问我的复古/新城市风格网站。

📄 许可证

本项目采用CC BY-NC 4.0许可证。

⚠️ 重要提示

本模型标签包含not-for-all-audiences和nsfw，请谨慎使用。