AIbase

商业研究通用
Meta Llama 3.1 8B Instruct Quantized.w8a8
这是Meta-Llama-3.1-8B-Instruct模型的INT8量化版本，通过权重量化和激活量化优化，适用于多语言商业和研究用途。
大型语言模型
Transformers
支持多种语言
M
RedHatAI
9,087
16
Phi 4 Mini Instruct
MIT
Phi-4-mini-instruct是一个轻量级开源模型，基于合成数据和过滤后的公开网站数据构建，专注于高质量、富含推理能力的数据。
大型语言模型
Transformers
支持多种语言
P
microsoft
346.30k
455
Llama 3.2 1B Instruct FP8
Llama-3.2-1B-Instruct的FP8量化版本，适用于多语言场景的商业和研究用途，性能接近原始模型。
大型语言模型
Safetensors
支持多种语言
L
RedHatAI
1,718
3
Llama 3.1 8B Instruct GGUF
Meta Llama 3.1 8B Instruct 是一个多语言大语言模型，针对多语言对话用例进行了优化，在常见的行业基准测试中表现优异。
大型语言模型
英语
L
modularai
9.7M
4
Meta Llama 3.1 70B FP8
Meta-Llama-3.1-70B的FP8量化版本，适用于多语言的商业和研究用途，权重和激活均量化为FP8格式，减少约50%的存储和内存需求。
大型语言模型
Transformers
支持多种语言
M
RedHatAI
191
2
Meta Llama 3.1 8B FP8
Meta-Llama-3.1-8B的FP8量化版本，适用于多种语言的商业和研究用途。
大型语言模型
Transformers
支持多种语言
M
RedHatAI
4,154
7
Meta Llama 3 70B Fp8
其他
Meta Llama 3 70B是由Meta开发的大语言模型，具有700亿参数，支持8k上下文长度，适用于英语的商业和研究用途。
大型语言模型
Transformers
英语
M
FriendliAI
34
5
Meta Llama 3 70B Instruct GGUF
基于Meta官方Llama 3 70B指令微调模型的GGUF量化版本，支持2-16bit多种量化级别，适用于本地部署的对话场景
大型语言模型
英语
M
MaziyarPanahi
18.89k
168
Decilm 6b Instruct
其他
DeciLM 6B-指令模型是一款专为短格式指令跟随设计的英语语言模型，基于DeciLM 6B通过LoRA微调技术训练而成
大型语言模型
Transformers
英语
D
Deci
105
134