AIbase

增量预训练
Vietnamese Llama2 7b 40GB
其他
基于Llama2-chat 7B的越南语优化模型，通过增量预训练和高效分词器显著提升越南语处理能力
大型语言模型
Transformers
支持多种语言
V
bkai-foundation-models
23
40
Zhilu 13B Instruct
Apache-2.0
ZhiLu是基于中文Alpaca2-13B二次开发的金融大语言模型，通过海量中英文语料增量预训练与高质量指令数据对齐实现能力跃升，重点强化金融领域专业表现。
大型语言模型
Transformers
Z
SYSU-MUCFC-FinTech-Research-Center
26
3
Codes 7b
Apache-2.0
CodeS-7B是一个专为SQL生成优化的代码大语言模型，基于StarCoderBase-7B进行增量预训练，支持最大8,192个token的上下文长度。
大型语言模型
Transformers
其他
C
seeklhy
409
8
Ziya LLaMA 13B Pretrain V1
Gpl-3.0
基于LLaMa架构的130亿参数大规模预训练模型，针对中文分词进行优化，完成1100亿token的中英文增量预训练，显著提升中文生成与理解能力
大型语言模型
Transformers
支持多种语言
Z
IDEA-CCNL
113
20
Vbert 2021 Base
Apache-2.0
VMware公司针对技术领域优化的BERT基础模型，通过增量预训练强化了对专有术语的处理能力
大型语言模型
Transformers
英语
V
VMware
14
4
Distilroberta Base Climate F
Apache-2.0
基于气候相关文本增量预训练的DistilRoBERTa模型，专为气候变化领域NLP任务优化
大型语言模型
Transformers
英语
D
climatebert
10.21k
36