G

Google Gemma 2 27b It AWQ

由 mbley 开发
Gemma 2 27B IT 是一个基于 AutoAWQ 量化的 4-bit 大语言模型,适用于对话和指令跟随任务。
下载量 122
发布时间 : 4/8/2025

模型简介

该模型是一个量化版本的大语言模型,主要用于自然语言处理任务,特别是对话和指令跟随。

模型特点

4-bit 量化
使用 AutoAWQ 进行 4-bit 量化,降低模型运行资源需求
高效推理
采用 GEMM 版本的量化配置,优化推理速度
对话优化
专门针对对话和指令跟随任务进行优化

模型能力

文本生成
对话系统
指令理解与执行

使用案例

对话系统
智能助手
构建能理解并回应用户指令的智能对话助手
内容生成
文本创作
根据指令生成各种类型的文本内容
AIbase
智启未来,您的人工智能解决方案智库
简体中文