语言: 英语
许可证: CC-BY-NC-4.0
任务标签: 图像特征提取
标签:

• sapiens

预训练Sapiens-2B模型

模型详情

Sapiens是基于3亿张1024×1024分辨率人类图像预训练的视觉Transformer系列模型。这些预训练模型在针对以人为中心的视觉任务进行微调后，能够泛化至真实场景。Sapiens-2B原生支持1K高分辨率推理，即使在标注数据稀缺或完全合成的情况下，仍能展现出对真实数据的卓越泛化能力。

• 开发机构: Meta
• 模型类型: 视觉Transformer
• 许可证: 知识共享署名-非商业性4.0协议
• 任务类型: 预训练
• 格式: 原始格式
• 文件: sapiens_2b_epoch_660_clean.pth

模型规格

• 图像尺寸: 1024×1024像素
• 参数量: 21.63亿
• 计算量: 8.709万亿次浮点运算
• 分块尺寸: 16×16像素
• 嵌入维度: 1920
• 层数: 48
• 注意力头数: 32
• 前馈通道数: 7680

更多资源

• 代码库: https://github.com/facebookresearch/sapiens
• 论文: https://arxiv.org/abs/2408.12569
• 演示: Sapiens Gradio空间
• 项目主页: https://about.meta.com/realitylabs/codecavatars/sapiens
• 附加结果: https://rawalkhirodkar.github.io/sapiens
• HuggingFace合集: https://huggingface.co/collections/facebook/sapiens-66d22047daa6402d565cb2fc

用途

预训练的20亿参数模型可用于特征提取、微调，或作为训练新模型的起点。