license: bigcode-openrail-m
datasets:

• OpenAssistant/oasst1
• databricks/databricks-dolly-15k
  language:
• en
  library_name: transformers
  tags:
• code

StarChat Alpha模型卡片

注：您可能对StarChat的Beta版本感兴趣，请访问此处。

StarChat是基于StarCoder微调的一系列编程助手语言模型。Alpha版本作为该系列的首个模型，目前仅限教育或研究用途。需注意，该模型尚未通过RLHF等技术进行人类偏好对齐，可能生成存在问题的内容（尤其在受到诱导时）。

模型详情

模型描述

• 模型类型: 基于160亿参数GPT架构，融合oasst1和databricks-dolly-15k数据集微调
• 支持语言: 英语
• 许可协议: BigCode Open RAIL-M v1
• 基础模型: bigcode/starcoderbase

模型来源 [可选]

• 代码仓库: https://github.com/bigcode-project/starcoder
• 演示空间: https://huggingface.co/spaces/HuggingFaceH4/starchat-playground

用途

StarChat Alpha旨在用于教育研究领域，可用于探索开源语言模型的编程能力边界。

偏差、风险与局限性

由于未经过RLHF人类偏好对齐，也未部署类似ChatGPT的响应过滤机制，该模型可能生成问题内容（特别是在诱导情况下）。
基于代码数据训练的模型会继承GitHub社区的人口统计偏差，详见StarCoder数据集分析。

基础模型在大量代码语料上预训练，可能生成语法正确但语义错误的代码片段，包括：

• 无法通过编译的代码
• 产生错误结果的代码
• 存在安全漏洞的代码
• 需谨慎核查的虚假URL生成倾向

本模型基于StarCoder Base微调，其模型卡中的局限性章节包含重要信息，涉及：

• 性别偏见评估
• 毒性倾向测试
• 含已知安全缺陷的代码建议风险
  详细评估参见技术报告。

快速开始

使用以下代码运行模型：

通过🤗 Transformers的pipeline()函数调用：

import torch  
from transformers import pipeline  

pipe = pipeline("text-generation", model="HuggingFaceH4/starchat-alpha", torch_dtype=torch.bfloat16, device_map="auto")  

prompt_template = "<|system|>\n<|end|>\n<|user|>\n{query}<|end|>\n<|assistant|>"  
prompt = prompt_template.format(query="Python如何实现列表排序？")  
# 使用特殊标记<|end|>（ID 49155）表示对话轮次结束  
outputs = pipe(prompt, max_new_tokens=256, do_sample=True, temperature=0.2, top_k=50, top_p=0.95, eos_token_id=49155)  
# 输出示例：可通过sort()方法实现，例如：\n\n```\nnumbers = [3,1,4,1,5,9,2,6,5,3,5]\nnumbers.sort()\nprint(numbers)\n```\n\n该操作将原地排序并打印结果。  

引用

BibTeX:

@article{Tunstall2023starchat-alpha,  
  author = {Tunstall, Lewis and Lambert, Nathan and Rajani, Nazneen and Beeching, Edward and Le Scao, Teven and von Werra, Leandro and Han, Sheon and Schmid, Philipp and Rush, Alexander},  
  title = {基于StarCoder构建编程助手},  
  journal = {Hugging Face博客},  
  year = {2023},  
  note = {https://huggingface.co/blog/starchat},  
}