B

Bge Large En V1.5 Gguf

由 CompendiumLabs 开发
提供GGUF格式的量化与非量化嵌入模型,专为llama.cpp设计。在CPU上运行时能大幅提升速度,GPU上对大型模型也有适度加速。
下载量 878
发布时间 : 2/17/2024

模型简介

这是一个基于BAAI/bge-large-en-v1.5模型转换的GGUF格式嵌入模型,适用于llama.cpp框架,提供多种量化版本以优化性能和资源使用。

模型特点

GGUF格式优化
专为llama.cpp设计的格式,在CPU上运行速度显著提升
多重量化选择
提供从F32到Q4_K_M等多种量化级别,平衡精度与性能
CPU高效运行
在CPU上可实现高达30%的速度提升,精度损失极小

模型能力

文本嵌入
语义相似度计算
信息检索

使用案例

信息检索
文档搜索
将查询和文档转换为嵌入向量进行相似度匹配
提高搜索相关性和效率
语义分析
文本聚类
基于嵌入向量对相似文本进行分组
发现文本数据中的潜在模式和主题
AIbase
智启未来,您的人工智能解决方案智库
简体中文