日晷是一系列生成式时间序列基础模型，能够对确定性预测和概率预测进行零样本推理。

PLaMo 2 1B是由Preferred Elements公司开发的10亿参数模型，基于英文和日文数据集进行预训练，采用混合架构结合Mamba和滑动窗口注意力机制。

OpenELM是一组开放的高效语言模型，采用分层缩放策略优化参数分配，提升模型精度。

CyberAgentLM2 是一个仅解码器的语言模型，基于公开可用的日语和英语数据集，预训练了1.3万亿个token。