C

Cnmoro TinyLlama ContextQuestionPair Classifier Reranker Gguf

由 RichardErkhov 开发
这是一个基于TinyLlama的轻量级文本排序模型,专门用于上下文和问题对的分类与重排任务。
下载量 391
发布时间 : 10/16/2024
模型介绍
内容详情
替代品

模型简介

该模型通过对上下文和问题对进行分类和重排,优化信息检索和问答系统的相关性排序。

模型特点

轻量级量化
提供多种量化版本,最小仅0.4GB,适合资源受限环境
上下文-问题对处理
专门优化用于分析上下文与问题对的相关性
多量化选项
提供从Q2_K到Q8_0共21种不同量化级别的模型选择

模型能力

文本相关性评分
问答对排序
上下文理解
信息检索优化

使用案例

问答系统
FAQ排序
对候选答案进行相关性排序,提升问答系统准确率
推断可提高答案选择准确率
信息检索
文档段落排序
根据查询问题对检索到的文档段落进行重排
推断可提高检索结果相关性