数据集:

• BatsResearch/ctga-v1 语言:
• 英文 库名称: transformers 管道标签: 文本到文本生成 标签:
• 数据生成 许可证: apache-2.0

Bonito-v1 AWQ模型

原始模型可在BatsResearch/bonito-v1找到

变体版本

• GEMM版: model.safetensors
• GEMV版: model_gemv.safetensors

Bonito模型卡片

Bonito是一个开源的"条件任务生成"模型，能够将未标注文本转化为特定任务的指令调优训练数据集。

模型详情

模型描述

Bonito可用于创建合成指令数据集，帮助大语言模型适配用户的专业私有数据。我们的论文证明，Bonito能在无需任何标注的情况下，使预训练模型和指令调优模型适配新任务。

• 开发团队: Nihal V. Nayak, Yiyang Nan, Avi Trost, Stephen H. Bach
• 模型类型: Mistral因果语言模型
• 支持语言: 英语
• 许可证: 待定
• 基础模型: mistralai/Mistral-7B-v0.1

模型来源

• 代码库: https://github.com/BatsResearch/bonito
• 论文: Arxiv链接

使用场景

直接使用

推荐使用基于transformers和vllm库构建的bonito工具包生成合成指令数据集。

from bonito import Bonito, SamplingParams
from datasets import load_dataset

# 初始化Bonito模型
bonito = Bonito()

# 加载未标注文本数据集
unannotated_text = load_dataset(
    "BatsResearch/bonito-experiment",
    "unannotated_contract_nli"
)["train"].select(range(10))

# 生成合成指令数据集
sampling_params = SamplingParams(max_tokens=256, top_p=0.95, temperature=0.5, n=1)
synthetic_dataset = bonito.generate_tasks(
    unannotated_text,
    context_col="input",
    task_type="nli",
    sampling_params=sampling_params
)

非适用场景

本模型专为生成以下任务类型设计：摘要生成、情感分析、多选题问答、抽取式问答、主题分类、自然语言推理、问题生成、文本生成、无选项问答、复述识别、句子补全、是非问答、词义消歧、复述生成、文本蕴含和共指消解。超出这些任务类型时，模型可能无法生成准确结果。