持续预训练优化
Llama 3.3 Swallow 70B Instruct V0.4
Llama 3.3 Swallow是基于Meta Llama 3.3模型进行持续预训练的大型语言模型(70B),增强了日语能力同时保留原有英语能力。
大型语言模型
Transformers
支持多种语言
L
tokyotech-llm
874
3
Llama 3.1 8B UltraLong 4M Instruct
专为处理超长文本序列(最高支持100万、200万和400万标记)设计的大语言模型,在标准基准测试中保持卓越性能
大型语言模型
Transformers
英语
L
nvidia
264
27
Llama 3.1 Minitron 4B Width Base
其他
Llama-3.1-Minitron-4B-Width-Base是一个基础文本到文本模型,通过对Llama-3.1-8B进行剪枝获得,适用于多种自然语言生成任务。
大型语言模型
Transformers
英语
L
nvidia
10.15k
190
Finance Llama3 8B
基于Llama3-8B开发的金融领域模型,通过指令预训练框架增强领域适应能力,在金融任务上达到甚至超越Llama3-70B的性能。
大型语言模型
Transformers
英语
F
instruction-pretrain
1,200
64
Layerskip Llama2 7B
其他
基于Llama2 7B改进的模型,支持层级跳跃和自推测解码,提升推理效率
大型语言模型
Transformers
英语
L
facebook
1,674
14
Quietstar 8 Ahead
基于Mistral-7b模型,采用Quiet-STaR方法进行持续预训练,在生成每个输出词元前会先生成8个思维词元,提升推理能力。
大型语言模型
Transformers
Q
ezelikman
239
90
Surgicberta
SurgicBERTa是基于RoBERTa-base架构开发的语言模型,专门针对外科教材与学术论文进行优化。
大型语言模型
Transformers
S
marcobombieri
26
3