语言:

• 多语言
• 英语
• 俄语
• 中文
• 德语
• 西班牙语
• 法语
• 日语
• 意大利语
• 葡萄牙语
• 希腊语
• 韩语
• 芬兰语
• 印尼语
• 土耳其语
• 阿拉伯语
• 越南语
• 泰语
• 保加利亚语
• 加泰罗尼亚语
• 印地语
• 爱沙尼亚语
• 孟加拉语
• 泰米尔语
• 乌尔都语
• 斯瓦希里语
• 泰卢固语
• 巴斯克语
• 缅甸语
• 海地克里奥尔语
• 克丘亚语 许可证: mit 缩略图: https://huggingface.co/front/thumbnails/facebook.png 推理: false

XGLM-564M

XGLM-564M是一个多语言自回归语言模型（包含5.64亿参数），基于30种语言的平衡语料库训练，总计5000亿子词。该模型由Xi Victoria Lin*、Todor Mihaylov、Mikel Artetxe、Tianlu Wang、Shuohui Chen、Daniel Simig、Myle Ott、Naman Goyal、Shruti Bhosale、Jingfei Du、Ramakanth Pasunuru、Sam Shleifer、Punit Singh Koura、Vishrav Chaudhary、Brian O'Horo、Jeff Wang、Luke Zettlemoyer、Zornitsa Kozareva、Mona Diab、Veselin Stoyanov、Xian Li*（*同等贡献）在论文《Few-shot Learning with Multilingual Language Models》中提出。原始实现发布于此代码库。

训练数据统计

XGLM-564M的训练数据统计如下表所示。

模型卡片

关于模型的预期用途，请参考XGLM-564M开发团队发布的模型卡片。

示例（COPA任务）

以下代码片段展示了如何使用我们的模型（GPT-3风格，零样本）在英语、中文和印地语的合理替代选择（COPA）任务上进行评估。

import torch
import torch.nn.functional as F

from transformers import XGLMTokenizer, XGLMForCausalLM

tokenizer = XGLMTokenizer.from_pretrained("facebook/xglm-564M")
model = XGLMForCausalLM.from_pretrained("facebook/xglm-564M")

data_samples = {
    'en': [
        {
            "premise": "I wanted to conserve energy.",
            "choice1": "I swept the floor in the unoccupied room.",
            "choice2": "I shut off the light in the unoccupied room.",
            "question": "effect",
            "label": "1"
        },
        {
            "premise": "The flame on the candle went out.",
            "choice1": "I blew on the wick.",
            "choice2": "I put a match to the wick.",
            "question": "cause",
            "label": "0"
        }
    ],
    'zh': [
        {
            "premise": "我想节约能源。",
            "choice1": "我在空着的房间里扫了地板。",
            "choice2": "我把空房间里的灯关了。",
            "question": "effect",
            "label": "1"
        },
        {
            "premise": "蜡烛上的火焰熄灭了。",
            "choice1": "我吹灭了灯芯。",
            "choice2": "我把一根火柴放在灯芯上。",
            "question": "cause",
            "label": "0"
        }
    ],
    'hi': [
        {
            "premise": "M te vle konsève enèji.",
            "choice1": "Mwen te fin baleye chanm lib la.",
            "choice2": "Mwen te femen limyè nan chanm lib la.",
            "question": "effect",
            "label": "1"
        },
        {
            "premise": "Flam bouji a te etenn.",
            "choice1": "Mwen te soufle bouji a.",
            "choice2": "Mwen te limen mèch bouji a.",
            "question": "cause",
            "label": "0"
        }
    ]
}

def get_logprobs(prompt):
    inputs = tokenizer(prompt, return_tensors="pt")
    input_ids, output_ids = inputs["input_ids"], inputs["input_ids"][:, 1:]
    outputs = model(**inputs, labels=input_ids)
    logits = outputs.logits
    logprobs = torch.gather(F.log_softmax(logits, dim=2), 2, output_ids.unsqueeze(2))
    return logprobs

# 零样本评估合理替代选择（COPA）任务。
# 返回值为0表示第一个替代更合理，
# 返回值为1表示第二个替代更合理。
def COPA_eval(prompt, alternative1, alternative2):
    lprob1 = get_logprobs(prompt + "\n" + alternative1).sum()
    lprob2 = get_logprobs(prompt + "\n" + alternative2).sum()
    return 0 if lprob1 > lprob2 else 1

for lang in data_samples_long:
    for idx, example in enumerate(data_samples_long[lang]):
        predict = COPA_eval(example["premise"], example["choice1"], example["choice2"])
        print(f'{lang}-{idx}', predict, example['label'])
        
# en-0 1 1
# en-1 0 0
# zh-0 1 1
# zh-1 0 0
# hi-0 1 1
# hi-1 0 0