pipeline_tag: 文本生成 tags:

• orca
• orca2
• microsoft license: 其他 license_name: 微软研究许可证 license_link: LICENSE

Orca 2

Orca 2专为研究目的设计，擅长在单轮交互中完成数据推理、阅读理解、数学解题及文本摘要等任务，尤其聚焦于提升推理能力。

请注意：

1. 本模型旨在验证：通过先进提示技术和多次调用等复杂流程，可利用高性能模型生成合成数据，从而赋能小语言模型（SLMs）获得新能力。选择推理能力作为突破口因其广泛实用性且为SLMs所欠缺。
2. 该模型未针对对话场景优化，未经过RLHF或DPO训练，建议在针对特定任务微调后使用。
3. 除推理外，模型继承了基座模型（LLAMA-2）的能力与局限。Orca训练方法已验证可迁移至其他基座模型。

我们公开Orca 2的权重参数，以促进小语言模型发展、评估与对齐领域的深入研究。

预期用途

• 纯研究用途
• 主要目标是为学界提供能力评估基准，并为构建更先进的尖端模型奠定基础

评估方式

• 已在推理、基础能力及安全性等广泛任务中测试，详见Orca 2论文第6章及附录

模型详情

Orca 2基于LLAMA-2微调，其训练数据为专门设计的合成数据集，用于增强小模型推理能力。所有数据均通过微软Azure内容过滤器审核，详见论文。

模型架构细节请参阅LLaMA-2技术报告。

许可协议

Orca 2采用微软研究许可证。
LLaMA 2遵循LLAMA 2社区许可，版权归Meta Platforms, Inc.所有。

偏见、风险与限制

基于LLaMA 2的Orca 2继承其局限性及大语言模型共性缺陷：

数据偏见：训练数据中的潜在偏见可能导致输出偏差
语境理解局限：虽具出色语言能力，但现实世界理解有限
黑箱特性：模型复杂性导致决策过程难以追溯，建议参考Azure透明度说明
内容危害：需警惕模型可能产生的各类有害内容，建议结合内容审核服务使用
幻觉风险：关键决策中需警惕虚构内容，小模型因容量限制可能更易出现此问题
滥用风险：可能被恶意用于生成虚假/有害信息
数据分布偏差：在数学、编程等训练数据不足领域表现可能受限
系统指令敏感性：响应质量受系统提示影响显著
零样本局限：虽零样本表现优异，但小样本学习增益不及更大模型
合成数据特性：继承了数据生成模型的优缺点，安全性依赖Azure OpenAI API的防护机制

本模型仅限研究环境测试，未经验证的下游应用需额外评估潜在风险。

快速开始

Hugging Face推理示例

import torch
import transformers
# 设备检测与模型加载代码...
system_message = "你是由微软开发的AI语言模型Orca。作为谨慎的助手，你将严格遵守指令，秉持道德准则提供有益无害的帮助。"
user_message = "如何判断餐厅主要受本地人还是游客青睐？这类信息有何价值？"
# 对话构建与生成逻辑...

Azure AI内容安全集成

# 内容安全检测函数与模型加载...
def should_filter_out(text, threshold=4):
    # 调用Azure内容安全API进行分级审核
    # 返回是否达到过滤阈值
# 安全过滤后的生成示例...

引用

@misc{mitra2023orca,
      title={Orca 2: 教会小语言模型推理}, 
      author={Arindam Mitra等},
      year={2023},
      eprint={2311.11045},
      archivePrefix={arXiv},
      primaryClass={cs.AI}
}