Doge模型采用动态掩码注意力机制进行序列转换，可选择多层感知机或跨域专家混合进行状态转换。

Doge模型采用动态掩码注意力机制进行序列转换，并可使用多层感知机或跨域专家混合进行状态转换。

Doge 320M 指导版是一个基于动态掩码注意力的轻量级语言模型，采用监督微调(SFT)和直接偏好优化(DPO)训练，适用于问答和对话任务。

Doge是一个采用动态掩码注意力机制进行序列转换的模型，可使用多层感知器或跨域专家混合进行状态转换。

Doge 160M 推理蒸馏版是一个基于动态掩码注意力机制和跨域混合专家的轻量级语言模型，专注于推理和问答任务。

Doge 160M 是一个基于动态掩码注意力机制的小型语言模型，采用监督微调(SFT)和直接偏好优化(DPO)训练而成。

Doge 160M 是一个采用动态掩码注意力机制的小型语言模型，由 SmallDoge 社区训练，支持文本生成任务。

Doge 20M 是一个基于动态掩码注意力机制的小型语言模型，支持指令跟随和问答任务。