数据集:

• yahma/alpaca-cleaned 基础模型:
• sarvamai/sarvam-1 语言:
• 印地语
• 英语
• 卡纳达语
• 孟加拉语 库名称: transformers 标签:
• 文本生成推理

Samastam指导模型(v1)

这是Sarvam-1模型的早期指导变体。目前使用Alpaca-cleaned数据集的12800个样本进行了微调。

当前Samastam对指令的响应表现良好，但未来可能会使用更多数据集继续微调。

使用示例

from transformers import pipeline
import torch

def 格式化提示(用户输入: str) -> str:
    模板 = (        
        "### 指令:\n"
        f"{用户输入}\n\n"
        "### 响应:\n"
    )
    return 模板

管道 = pipeline(
    "文本生成",
    model="hathibelagal/samastam-it-v1",
    torch_dtype=torch.float16,
    device_map="auto",
)

输出 = 管道(
    格式化提示("拉贾斯坦邦的首府是哪里?"),
    pad_token_id=管道.tokenizer.eos_token_id,
    max_new_tokens=25,
    do_sample=True,
)

print(输出[0]["生成文本"])

# 输出:
# ### 指令:
# 拉贾斯坦邦的首府是哪里?

# ### 响应:
# 拉贾斯坦邦的首府是斋浦尔。