AIbase

C

Chinese Llama 2 7b Gguf

由 hfl 开发
适配llama.cpp的中文LLaMA-2-7B模型的GGUF-v3版本文件
大型语言模型
Transformers
支持多种语言
开源协议:Apache-2.0#中文优化#低困惑度#量化推理
下载量 254
发布时间 : 11/16/2023
模型介绍
内容详情
替代品

模型简介

这是一个基于LLaMA-2架构的中文大语言模型，经过量化处理适配llama.cpp推理框架，支持中文和英文处理。

模型特点

量化版本支持
提供多种量化级别(Q2_K到F16)的模型文件，满足不同硬件条件下的推理需求
重要矩阵优化
带有`-im`后缀的模型采用重要矩阵优化技术，通常能获得更优性能表现
中文优化
专门针对中文文本处理进行了优化，在中文任务上表现良好

模型能力

中文文本生成
英文文本生成
上下文理解

使用案例

文本生成
中文内容创作
生成符合中文语言习惯的各类文本内容
对话系统
构建中文对话机器人
教育研究
语言模型研究
用于中文NLP相关学术研究