base_model: Rijgersberg/GEITje-7B-chat datasets:

• Rijgersberg/no_robots_nl

• Rijgersberg/ultrachat_10k_nl inference: false language:

• nl license: apache-2.0 model-index:

• name: GEITje-7B-chat results: [] model_creator: Edwin Rijgersberg model_name: Geitje 7B Chat model_type: mistral pipeline_tag: conversational prompt_template: '<|user|>

  {prompt}

  <|assistant|>

  ' quantized_by: TheBloke tags:

• generated_from_trainer

• GEITje

Geitje 7B Chat - GPTQ

• 模型创作者: Edwin Rijgersberg
• 原始模型: Geitje 7B Chat

模型描述

本仓库包含Edwin Rijgersberg的Geitje 7B Chat的GPTQ模型文件。

提供了多种GPTQ参数组合；详情请参阅下方“提供的文件”部分，了解各选项的参数及生成所用的软件。

这些量化文件由Massed Compute慷慨提供的硬件完成。

可用仓库

• 用于GPU推理的AWQ模型
• 用于GPU推理的GPTQ模型，提供多种量化参数选项
• 用于CPU+GPU推理的2、3、4、5、6和8位GGUF模型
• Edwin Rijgersberg的原始未量化fp16 PyTorch格式模型，用于GPU推理及进一步转换

提示模板：ToRA

<|user|>
{prompt}
<|assistant|>