inference: false

longchat-13b-16k 模型卡片

使用方法

请使用FastChat或LongChat代码库中的load_model函数加载该模型（或通过FastChat的聊天API）。使用此模型需应用猴子补丁（monkey patch）。 使用参考：

(LongChat) python3 eval.py --model-name-or-path lmsys/longchat-13b-16k --task topics

(FastChat) python3 -m fastchat.serve.cli --model-path lmsys/longchat-13b-16k

底层实现中，猴子补丁添加位置： https://github.com/lm-sys/FastChat/blob/da0641e567cf93756b0978ab5a6b092e96f06240/fastchat/model/model_adapter.py#L429

模型详情

模型类型： longchat-13b-16k是基于llama-13b微调的开源聊天机器人，训练数据来自ShareGPT平台用户分享的对话，采用了博客中报告的压缩旋转位置嵌入技术。

模型日期： longchat-13b-16k训练于2023年6月。

开发机构： LongChat开发团队：李达成*、邵儒林*、谢安泽、盛颖、郑连敏、Ion Stoica、马学哲和张浩

论文或资源链接： https://github.com/DachengLi1/LongChat

问题反馈渠道： https://github.com/DachengLi1/LongChat

使用目的

主要用途： longchat-13b-16k主要用于研究目的。

目标用户： 模型主要面向自然语言处理、机器学习和人工智能领域的研究人员。

训练数据

来自ShareGPT.com平台的18,000组对话数据。

评估数据

模型质量通过我们发布的LongEval工具进行初步评估。