license: llama2
LLAMA2-13B-Psyfighter2
Psyfighter是由KoboldAI社区成员Jeb Carter和TwistedShadows创建的融合模型,得益于KoboldAI的合并请求服务才得以实现。
其目的是通过添加医学数据,用更多关于解剖结构和心理状态的细节来补充模型的虚构能力。由于医学数据的比例较低而虚构内容的比例较高,该模型不应被用于医疗建议或治疗,因为它有很大可能会引入虚构数据。
使用的mergekit配方如下:
merge_method: task_arithmetic
base_model: TheBloke/Llama-2-13B-fp16
models:
- model: TheBloke/Llama-2-13B-fp16
- model: KoboldAI/LLaMA2-13B-Tiefighter
parameters:
weight: 1.0
- model: Doctor-Shotgun/cat-v1.0-13b
parameters:
weight: 0.01
- model: Doctor-Shotgun/llama-2-13b-chat-limarp-v2-merged
parameters:
weight: 0.02
dtype: float16
*该模型的V1版本最初发布在合并创建者的账户下
此模型包含以下上游模型的成分(尽我们所能追踪到的范围):
- KoboldAI/LLaMA2-13B-Tiefighter
- Undi95/Xwin-MLewd-13B-V0.2
-
- Undi95/ReMM-S-Light
- Undi95/CreativeEngine
- Brouz/Slerpeno
-
- elinas/chronos-13b-v2
- jondurbin/airoboros-l2-13b-2.1
- NousResearch/Nous-Hermes-Llama2-13b+nRuaif/Kimiko-v2
- CalderaAI/13B-Legerdemain-L2+lemonilia/limarp-llama2-v2
-
- KoboldAI/LLAMA2-13B-Holodeck-1
- NousResearch/Nous-Hermes-13b
- OpenAssistant/llama2-13b-orca-8k-3319
- ehartford/WizardLM-1.0-Uncensored-Llama2-13b
- Henk717/spring-dragon
- The-Face-Of-Goonery/Huginn-v3-13b(包含未公开的模型版本,我们尽可能进行了假设)
-
- SuperCOT(未公开版本)
- elinas/chronos-13b-v2(假设版本)
- NousResearch/Nous-Hermes-Llama2-13b
- stabilityai/StableBeluga-13B(假设版本)
- zattio770/120-Days-of-LORA-v2-13B
- PygmalionAI/pygmalion-2-13b
- Undi95/Storytelling-v1-13B-lora
- TokenBender/sakhi_13B_roleplayer_NSFW_chat_adapter
- nRuaif/Kimiko-v2-13B
- The-Face-Of-Goonery/Huginn-13b-FP16
-
- "多种不同模型,如hermes、beluga、airoboros、chronos... limarp"
- lemonilia/LimaRP-Llama2-13B-v3-EXPERIMENT
- Xwin-LM/Xwin-LM-13B-V0.2
- PocketDoc/Dans-RetroRodeo-13b
- Blackroot/Llama-2-13B-Storywriter-LORA
- Doctor-Shotgun/cat-v1.0-13b
- Doctor-Shotgun/llama-2-13b-chat-limarp-v2-merged
- meta-llama/Llama-2-13b-chat-hf
- lemonilia/limarp-llama2-v2
尽管我们可能无法一一列出此融合模型中涉及的每个LoRA或模型,但我们仍想感谢所有上游创作者的努力,正是他们让这个出色的模型成为可能!
多亏了你们,AI生态系统才得以蓬勃发展,没有你们的精心调校,像这样的模型是不可能实现的。
使用方法
此模型旨在激发创意,如果你让它即兴发挥,效果会比用过多细节限制它更好。
故事创作
支持传统的常规故事创作,只需复制粘贴你的故事并继续写作。可选地使用记忆中的指令或作者笔记来引导故事的方向。
按需生成故事
要按需生成故事,你可以使用类似“写一篇关于X的小说,使用章节和对话”这样的指令(已在Alpaca格式中测试),这将生成一个故事。生成的格式可能因模型的选择而有所不同,你可以像前面的例子那样写出你想要的内容,或者自己写出故事的开头,让模型跟随你的风格。如果模型出错,多次尝试也可能有所帮助。
聊天机器人与角色扮演
此模型已通过各种形式的聊天测试,测试者发现通常“少即是多”,模型擅长即兴发挥。不要用大段详细信息淹没模型,而是先保持简单,看看模型自身的能力能多大程度上理解你的角色。对于像这样的13B模型,复制粘贴大段背景信息并不合适,使用代码格式的角色描述或指令提示来描述你想对话的对象会更有效。
例如,你可以在常规聊天模式的记忆中加入以下内容:
### 指令:
生成Alice和Jeb之间讨论语言模型的对话。
在这段对话中,Henk很兴奋地向Alice介绍Psyfighter。
### 响应:
由于该模型融合了多种模型,它应支持广泛的指令格式或纯聊天模式。如果你有特别喜欢的格式,可以尝试使用,否则我们建议使用常规聊天模式或Alpaca格式。
指令提示
此模型包含多种指令风格的不同指令模型,我们在测试时使用了Alpaca格式。如果你偏好其他格式,很可能也能奏效。
在指令测试中,我们观察到在某些情况下冒险数据可能会泄露,也可能值得尝试使用“>”作为用户命令的前缀来缓解这一问题。但这可能会导致更强的虚构倾向。
请记住,虽然此模型可以用作事实性指令模型,但其重点在于虚构。模型提供的信息可能是编造的。
冒险与冒险游戏
此模型包含一个与KoboldAI Skein模型相同的冒险数据集训练的LoRA。冒险模式最好通过简短介绍世界和目标,并使用“>”前缀作为用户命令(KoboldAI的冒险模式)来实现。
模型可能不会立即理解你的意图,也不会一开始就进入冒险模式行为。只需手动修正输出去除多余的对话或其他不理想的行为,并继续使用适当的模式提交你的行动。模型应能快速适应这种风格,并在3轮内正确遵循此格式。
发现了很酷的东西并想与我们互动?
加入我们的社区:https://koboldai.org/discord!
我们也可以为你提供制作自己的融合模型的帮助。