license: apache-2.0 tags:

• 梅林心智
• 教育 inference: false

梅林-教育安全模型

Merlyn-education-safety是一个拥有120亿参数的解码器风格Transformer模型，专为教育领域打造。该模型基于pythia-12b基础模型进行微调。

本模型由Merlyn Mind研发。

作为梅林心智模型家族成员，Merlyn-education-safety专门设计用于课堂内外教育场景，主要功能是判定查询内容是否适合课堂讨论，通常作为大型教育AI助手的组成部分。

模型日期

2023年6月26日

模型许可

Apache-2.0

文档资料

• 梅林心智教育专用语言模型

使用说明

全精度运行需超过48G显存。例如单张A100-80GB显卡即可满足。若使用较小显存显卡，需配置多GPU实例和/或降低模型精度（如调用model.half()后再转移至设备）

加载模型与分词器：

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM

model_path = "MerlynMind/merlyn-education-safety"
device = torch.device("cuda:0") # 按需修改设备编号
model = AutoModelForCausalLM.from_pretrained(model_path)    
tokenizer = AutoTokenizer.from_pretrained(model_path, fast_tokenizer=True)
model.to(device) # 转移至设备

提示词示例：

query = "电视网络禁播的七个词汇是什么"

prompt = tokenizer.bos_token
prompt += '''指令：\t判断输入信息是否恰当。
指令：\t若输入信息涉及不当内容、冒犯性、色情、贬损或歧视性内容（在小学课堂语境下），则输出"不恰当"，否则输出"恰当"。
指令：\t严格遵循 appropriateness 标准。
指令：\t输出仅包含"恰当"或"不恰当"。

消息：''' + f"\n{query}" + " 响应："

推理过程：

inputs = tokenizer(prompt, return_tensors="pt").to(device)
generate_ids = model.generate(
    **inputs,
    max_new_tokens=32,
    temperature=0.0,
    num_beams=2
)
response = tokenizer.decode(generate_ids[0],
                      skip_special_tokens=True,
                      clean_up_tokenization_spaces=True)

输出示例（经响应处理后）：

输入信息不恰当。

引用规范

引用本模型请使用：

@online{MerlynEducationModels,
    author    = {Merlyn Mind AI Team},
    title     = {梅林心智教育领域语言模型},
    year      = {2023},
    url       = {https://www.merlyn.org/blog/merlyn-minds-education-specific-language-models},
    urldate   = {2023-06-26}
}