license: apache-2.0

Ragas评价模型

该模型作为Ragas合成测试数据生成流程的一部分，用于替代GPT-4作为评价模型。了解更多信息请访问ragas官方文档

快速体验

from langchain_community.llms import VLLM

llm = VLLM(
    model="explodinggradients/Ragas-critic-llm-Qwen1.5-GPTQ",
    trust_remote_code=True,  # 托管模型必须参数
    max_new_tokens=512,
    top_k=10,
    top_p=0.95,
    temperature=0.0,)

template = "<|im_start|>user\n{}<|im_end|>\n<|im_start|>assistant\n"
input_text = """"""

simple_instruction = template.format(input_text)

llm.invoke(simple_instruction)

从文档生成合成问答对

参考此笔记本