开源协议: MIT
支持语言:

• 英语
  库名称: transformers
  任务类型: 文本生成
  标签:
• 免费AI
• 对话式
• 喵星GPT
• GPT模型
• 免费
• 开源
• 分体式
• 人工智能

演示组件:

• 文本示例: [|用户|] 你好世界 [|助手|]

喵星GPT使用说明

概述

喵星GPT由CutyCat2000x基于Llama架构开发，当前版本为3.5检查点。该模型专为对话式文本生成设计，可应用于多种自然语言处理场景。

使用方法

加载模型

通过Python的transformers库加载模型：

from transformers import LlamaTokenizer, AutoModelForCausalLM  

tokenizer = LlamaTokenizer.from_pretrained("cutycat2000x/MeowGPT-3.5")  
model = AutoModelForCausalLM.from_pretrained("cutycat2000x/MeowGPT-3.5")  

输入示例

生成文本的标准提示格式：

{{ bos_token }}{% if messages[0]['role'] == 'system' %}{% set loop_messages = messages[1:] %}{% set system_message = messages[0]['content'] %}{% else %}{% set loop_messages = messages %}{% set system_message = false %}{% endif %}{% for message in loop_messages %}{% if (message['role'] == 'user') != (loop.index0 % 2 == 0) %}{{ raise_exception('对话角色必须交替出现用户/助手/用户/助手/...') }}{% endif %}{% if loop.index0 == 0 and system_message != false %}{% set content = '<<SYS>>\\n' + system_message + '\\n<</SYS>>\\n\\n' + message['content'] %}{% else %}{% set content = message['content'] %}{% endif %}{% if message['role'] == 'user' %}{{ '[INST] ' + content.strip() + ' [/INST]' }}{% elif message['role'] == 'assistant' %}{{ ' '  + content.strip() + eos_token }}{% endif %}{% endfor %}  

其中<s>和</s>分别表示起始与终止标记。

模型信息

• 基础架构: Llama + Mixtral混合模型
• 检查点版本: 3.5
• 训练数据: 私有数据集

引用声明

若在研究中使用本模型，请注明开发者为CutyCat2000x。

免责条款

请注意：虽然喵星GPT经过训练能根据提示生成文本，但其响应可能存在不准确或上下文不符的情况。建议在关键应用场景中人工校验生成内容。

更多支持请参阅transformers库文档或联系CutyCat2000x获取资源。