Recurrentgemma 2b

由 google 开发

RecurrentGemma是Google基于新型循环架构开发的开放语言模型家族，提供预训练和指令调优版本，适用于多种文本生成任务。

大型语言模型

Transformers

#循环架构高效推理 #低内存长序列生成 #英语文本生成

下载量 1,941

发布时间 : 4/6/2024

模型介绍

内容详情

替代品

模型简介

RecurrentGemma模型适用于文本生成任务，如问答、摘要和推理。其循环架构使其内存占用更低，且在生成长序列时推理速度更快。

模型特点

低内存占用

由于其循环架构，RecurrentGemma在推理时内存占用更低。

快速推理

在生成长序列时，RecurrentGemma的推理速度更快。

开放模型

RecurrentGemma是开放的预训练和指令调优语言模型家族。

模型能力

文本生成

问答

摘要

推理

使用案例

内容创作

诗歌生成

生成关于特定主题的诗歌。

聊天机器人

构建交互式聊天机器人。

文本摘要

生成文档的简洁摘要。

研究教育

NLP算法开发

用于自然语言处理算法的研究和开发。

语言学习工具

辅助语言学习和知识探索。

库名称：transformers
许可证：gemma
额外授权标题：在Hugging Face上访问RecurrentGemma
额外授权提示：要访问Hugging Face上的RecurrentGemma，您需要审阅并同意Google的使用许可。为此，请确保您已登录Hugging Face并点击下方按钮。请求将立即处理。
额外授权按钮内容：确认许可

RecurrentGemma模型卡

模型页面：RecurrentGemma

此模型卡对应RecurrentGemma模型的2B基础版本。您还可以访问2B指令模型的模型卡。

资源与技术文档：

使用条款：条款

作者：Google

使用方法

以下是一些快速运行模型的代码片段。首先确保执行pip install --upgrade git+https://github.com/huggingface/transformers.git，然后复制适合您用例的代码片段。

在单GPU/多GPU上运行模型

from transformers import AutoTokenizer, AutoModelForCausalLM  

tokenizer = AutoTokenizer.from_pretrained("google/recurrentgemma-2b")  
model = AutoModelForCausalLM.from_pretrained("google/recurrentgemma-2b", device_map="auto")  

input_text = "写一首关于机器学习的诗。"  
input_ids = tokenizer(input_text, return_tensors="pt").to("cuda")  

outputs = model.generate(**input_ids)  
print(tokenizer.decode(outputs[0]))

模型信息

模型概述

描述

RecurrentGemma是基于Google开发的新型循环架构构建的开放语言模型家族。提供预训练和指令调优版本（仅限英语）。

与Gemma类似，RecurrentGemma模型适用于多种文本生成任务，包括问答、摘要和推理。由于其新颖架构，RecurrentGemma比Gemma内存占用更低，且在生成长序列时推理速度更快。

输入与输出

输入：文本字符串（如问题、提示或待摘要文档）。
输出：生成的英语文本响应（如问题答案、文档摘要）。

引用

@article{recurrentgemma_2024,  
    title={RecurrentGemma},  
    url={},  
    DOI={},  
    publisher={Kaggle},  
    author={Griffin团队, Alexsandar Botev等},  
    year={2024}  
}