AIbase

剪枝优化
Sheared LLaMA 2.7B
Apache-2.0
Sheared-LLaMA-2.7B是基于Llama-2-7b通过剪枝和继续预训练得到的轻量级语言模型，仅消耗50B tokens预算。
大型语言模型
Transformers
S
princeton-nlp
1,131
60
Bert Base Uncased Squadv1 X1.96 F88.3 D27 Hybrid Filled Opt V1
MIT
基于BERT-base uncased模型在SQuAD v1上微调并优化的问答模型，通过剪枝技术保留43%原始权重，推理速度提升1.96倍
问答系统
Transformers
英语
B
madlag
20
0
Bert Base Uncased Sst2 Acc91.1 D37 Hybrid
Apache-2.0
该模型是基于bert-base-uncased在SST-2数据集上微调得到的文本分类模型，通过nn_pruning库进行了剪枝优化，保留了原模型51%的权重，准确率达到91.17%。
文本分类
Transformers
英语
B
echarlaix
172
0
Bert Base Uncased Squadv1 X2.01 F89.2 D30 Hybrid Rewind Opt V1
MIT
基于BERT-base uncased模型在SQuAD v1上微调的问答系统模型，通过nn_pruning库进行剪枝优化，推理速度提升2.01倍，F1得分提升0.69。
问答系统
Transformers
英语
B
madlag
22
0
Bert Base Uncased Sparse 70 Unstructured
这是BERT基础模型的剪枝版本，达到70%的稀疏度，适用于下游任务的微调。
大型语言模型
Transformers
英语
B
Intel
28
0