AIbase

问答加速
Cocom V1 4 Mistral 7b
COCOM 是一种高效的上下文压缩方法，能够将长上下文压缩为少量上下文嵌入，从而加速问答任务的生成时间。
大型语言模型
Transformers
英语
C
naver
17
2
Bert Base Uncased Squadv1 X2.44 F87.7 D26 Hybrid Filled V1
MIT
基于BERT-base uncased模型在SQuAD v1上微调并通过nn_pruning库修剪的问答模型，保留42%原始权重，推理速度提升2.44倍
问答系统
Transformers
英语
B
madlag
17
0
Bert Base Uncased Squadv1 X2.32 F86.6 D15 Hybrid V1
MIT
基于BERT-base uncased模型在SQuAD v1上微调的问答模型，通过nn_pruning库修剪了66%的线性层权重，推理速度提升2.32倍
问答系统
Transformers
英语
B
madlag
16
0
Bert Base Uncased Squadv1 X2.01 F89.2 D30 Hybrid Rewind Opt V1
MIT
基于BERT-base uncased模型在SQuAD v1上微调的问答系统模型，通过nn_pruning库进行剪枝优化，推理速度提升2.01倍，F1得分提升0.69。
问答系统
Transformers
英语
B
madlag
22
0