language:

• 希腊语
• 英语 license: apache-2.0 pipeline_tag: 文本生成 tags:
• 微调模型
• TensorBlock
• GGUF inference: true base_model: ilsp/Meltemi-7B-Instruct-v1.5

ilsp/Meltemi-7B-Instruct-v1.5 - GGUF格式

本仓库包含ilsp/Meltemi-7B-Instruct-v1.5的GGUF格式模型文件。

这些文件由TensorBlock提供的机器进行量化，兼容llama.cpp（基于commit b4011版本）。

我们的项目

Awesome MCP Servers	TensorBlock Studio
模型上下文协议(MCP)服务器的全面合集。	轻量级、开放且可扩展的多LLM交互工作室。
😀 查看我们的成果 😀	😀 查看我们的成果 😀

<|system|>
{系统提示}</s>
<|user|>
{用户提示}</s>
<|assistant|>

模型文件规格

下载指南

命令行方式

首先安装Huggingface客户端

pip install -U "huggingface_hub[cli]"

然后下载单个模型文件到本地目录

huggingface-cli download tensorblock/Meltemi-7B-Instruct-v1.5-GGUF --include "Meltemi-7B-Instruct-v1.5-Q2_K.gguf" --local-dir 本地目录路径

如需批量下载符合特定模式的文件（例如*Q4_K*gguf），可执行：

huggingface-cli download tensorblock/Meltemi-7B-Instruct-v1.5-GGUF --local-dir 本地目录路径 --local-dir-use-symlinks False --include='*Q4_K*gguf'