语言:

• 英文 任务标签:
• 文本生成 标签:
• 文本生成推理
• 指导型
• 对话型
• 角色扮演 许可证: cc-by-4.0

Erosumika-7B-v3

7.1bpw exl2量化版本，非常适合在8GB显存的GPU上运行16k上下文！

原始模型: (https://huggingface.co/localfultonextractor/Erosumika-7B-v3)

模型详情

这是Nitral的Kunocchini-7b、Endevor的InfinityRP-v1-7B与我的FlatErosAlpha通过DARE TIES方法融合的模型。其中FlatErosAlpha是tavtav的eros-7B-ALPHA的扁平化版本（以保持词汇量为32000）。Alpaca和ChatML格式效果最佳。

GGUF量化版本

局限性与偏差

本模型的主要用途是娱乐性质的虚构写作。任何其他用途均超出设计范围。 即使提示本身不包含任何明确冒犯性内容，模型仍可能产生社会不可接受或不理想的文本。输出内容可能经常存在事实性错误或误导性信息。

基础模型: localfultonextractor/FlatErosAlpha
模型组成:
  - 模型: localfultonextractor/FlatErosAlpha
  - 模型: Epiculous/InfinityRP-v1-7B
    参数:
      密度: 0.4
      权重: 0.25
  - 模型: Nitral-AI/Kunocchini-7b
    参数:
      密度: 0.3
      权重: 0.35
融合方法: dare_ties
数据类型: bfloat16

注：复制了InfinityRP-v1-7B的分词器。