标签:

• 合并
• 合并工具包
• 懒人合并工具包
• liminerity/M7-7b
• MTSAIR/多元宇宙模型
• Kukedlc/神经克里希纳-7b
• Kukedlc/神经数学实验-7b
• Kukedlc/神经4gsm8k 基础模型:
• liminerity/M7-7b
• MTSAIR/多元宇宙模型
• Kukedlc/神经克里希纳-7b
• Kukedlc/神经数学实验-7b
• Kukedlc/神经4gsm8k 许可证: apache-2.0

神经4数学-7b

神经4数学-7b是使用懒人合并工具包合并以下模型的结果：

• liminerity/M7-7b
• MTSAIR/多元宇宙模型
• Kukedlc/神经克里希纳-7b
• Kukedlc/神经数学实验-7b
• Kukedlc/神经4gsm8k

🧩 配置

模型:
  - 模型: Kukedlc/神经克里希纳-7b
    # 基础模型无需参数
  - 模型: liminerity/M7-7b
    参数:
      密度: 0.66
      权重: 0.2
  - 模型: MTSAIR/多元宇宙模型
    参数:
      密度: 0.66
      权重: 0.2
  - 模型: Kukedlc/神经克里希纳-7b
    参数:
      密度: 0.66
      权重: 0.2
  - 模型: Kukedlc/神经数学实验-7b
    参数:
      密度: 0.44
      权重: 0.2
  - 模型: Kukedlc/神经4gsm8k
    参数:
      密度: 0.44
      权重: 0.2
合并方法: dare_ties
基础模型: Kukedlc/神经克里希纳-7b
参数:
  int8掩码: 是
数据类型: bfloat16

💻 使用方式

!pip install -qU transformers accelerate

from transformers import AutoTokenizer
import transformers
import torch

model = "Kukedlc/神经-4-数学-7b"
messages = [{"role": "用户", "content": "什么是大型语言模型？"}]

tokenizer = AutoTokenizer.from_pretrained(model)
prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
pipeline = transformers.pipeline(
    "文本生成",
    model=model,
    torch_dtype=torch.float16,
    device_map="自动",
)

outputs = pipeline(prompt, max_new_tokens=256, do_sample=True, temperature=0.7, top_k=50, top_p=0.95)
print(outputs[0]["生成文本"])