🚀 Glm-Edge-V-2B-GGUF

Glm-Edge-V-2B-GGUF 是一款支持图像文本到文本转换的模型，适用于多种应用场景，为用户提供高效的文本生成服务。

🚀 快速开始

若您想阅读中文内容，可点击这里。

📦 安装指南

该模型的适配代码正在积极集成到官方的 llama.cpp 中。您可以使用以下适配版本进行测试：

git clone https://github.com/piDack/llama.cpp -b support_glm_edge_model
cmake -B build -DGGML_CUDA=ON # 或者启用其他加速硬件
cmake --build build -- -j 

💻 使用示例

基础用法

安装完成后，您可以使用以下命令启动 GLM-Edge Chat 模型：

llama-cli -m <path>/model.gguf -p "<|user|>\nhi<|assistant|>\n" -ngl 999

在命令行界面中，您可以输入请求与模型进行交互，模型将提供相应的响应。

📄 许可证

本模型权重的使用需遵循 LICENSE 中规定的条款。