AIbase

J

Janus Pro 7B 4bit

由 wnma3mz 开发
基于 deepseek-ai/Janus-Pro-7B 的 4 位量化版本，适用于 Apple 芯片设备，支持聊天任务。
大型语言模型
Safetensors
开源协议:MIT#4位量化LLM#Apple芯片优化#聊天对话模板
下载量 99
发布时间 : 1/30/2025
模型介绍
内容详情
替代品

模型简介

该模型是 deepseek-ai/Janus-Pro-7B 的优化版本，主要进行了 4 位量化处理，并转换为 safetensors 格式，添加了聊天模板，适用于 macOS（Apple 芯片）设备。

模型特点

4 位量化
LLM 部分被量化为 4 位，减少了模型大小和计算资源需求。
safetensors 格式
模型权重从 bin 文件更新为 safetensors 格式，提高了安全性和加载效率。
聊天模板支持
添加了 chat_template，便于聊天任务的部署和使用。
Apple 芯片优化
使用 mlx 框架，特别优化了在 macOS（Apple 芯片）设备上的运行效率。

模型能力

文本生成
聊天

使用案例

聊天应用
智能助手
部署为智能聊天助手，提供自然流畅的对话体验。