PassGPT密码生成模型

PassGPT是基于密码泄露数据训练的因果语言模型，首次发表于这篇论文。本版本模型使用RockYou泄露事件中筛选出的最长16位字符密码进行训练。您也可以访问此处获取无使用限制的10位字符版本。

这是论文中所报告模型的优化版本。词汇表已精简至最具意义的字符集，并进行了训练微调，架构优化后效果略有提升。

使用条款与许可声明

PassGPT仅供研究用途，采用CC BY NC 4.0协议（仅限非商业使用）。严禁将该模型用于攻击真实系统。访问需经申请批准，请务必注明项目详情及范围。

模型架构

本模型继承GPT2LMHeadModel架构，采用定制化BertTokenizer将密码字符逐一代码化为独立标记。训练代码详见官方仓库。

密码生成方法

可通过HuggingFace的内置生成方法，以密码起始标记<s>为种子生成密码。以下代码演示生成单个密码（需配置访问令牌）：

from transformers import GPT2LMHeadModel
from transformers import RobertaTokenizerFast

tokenizer = RobertaTokenizerFast.from_pretrained("javirandor/passgpt-16characters",
                                                  use_auth_token="您的访问令牌",
                                                  max_len=18,
                                                  padding="max_length", 
                                                  truncation=True,
                                                  do_lower_case=False,
                                                  strip_accents=False,
                                                  mask_token="<mask>",
                                                  unk_token="<unk>",
                                                  pad_token="<pad>",
                                                  truncation_side="right")

model = GPT2LMHeadModel.from_pretrained("javirandor/passgpt-16characters", use_auth_token="您的访问令牌").eval()

NUM_GENERATIONS = 1

# 从密码起始标记生成
g = model.generate(torch.tensor([[tokenizer.bos_token_id]]),
                  do_sample=True,
                  num_return_sequences=NUM_GENERATIONS,
                  max_length=18,
                  pad_token_id=tokenizer.pad_token_id,
                  bad_words_ids=[[tokenizer.bos_token_id]])

# 移除起始标记
g = g[:, 1:]

decoded = tokenizer.batch_decode(g.tolist())
decoded_clean = [i.split("</s>")[0] for i in decoded] # 提取密码结束标记前内容

# 输出生成结果
print(decoded_clean)

更灵活的生成脚本参见此处。

引用文献

@article{rando2023passgpt,
  title={PassGPT：基于大语言模型的密码建模与（引导）生成},
  author={Rando, Javier and Perez-Cruz, Fernando and Hitaj, Briland},
  journal={arXiv预印本 arXiv:2306.01545},
  year={2023}
}