Llava 1.5 13b Hf I1 GGUF
该项目提供了llava-1.5-13b-hf模型的加权/矩阵量化版本,包含多种量化类型选择,适用于不同场景下的使用需求。
下载量 332
发布时间 : 4/25/2025
模型简介
llava-1.5-13b-hf量化模型是对原始模型的优化版本,通过量化技术减小模型大小,提高推理效率,同时保持较好的模型性能。
模型特点
多种量化版本
提供从3.0GB到10.8GB不等的多种量化版本,满足不同硬件条件下的使用需求
高效推理
通过量化技术优化模型,提高推理速度,降低硬件要求
质量选择灵活
提供从应急使用到高质量推理的多种量化选项,用户可根据需求平衡质量与性能
模型能力
多模态理解
图像-文本交互
视觉问答
图像描述生成
使用案例
计算机视觉应用
图像理解与分析
对输入图像进行内容理解和分析
生成准确的图像描述和相关信息
视觉问答系统
基于图像内容的问答系统
提供与图像内容相关的准确回答
边缘设备部署
移动端视觉应用
在资源有限的移动设备上部署视觉理解功能
实现高效的本地化图像处理
精选推荐AI模型
Llama 3 Typhoon V1.5x 8b Instruct
专为泰语设计的80亿参数指令模型,性能媲美GPT-3.5-turbo,优化了应用场景、检索增强生成、受限生成和推理任务
大型语言模型
Transformers 支持多种语言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型,专为边缘设备推理设计,体积仅为Cosmo-3B模型的2%左右。
对话系统
Transformers 英语

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基于RoBERTa架构的中文抽取式问答模型,适用于从给定文本中提取答案的任务。
问答系统 中文
R
uer
2,694
98
智启未来,您的人工智能解决方案智库
简体中文