标签:

• 摘要生成 小部件:
• 文本: "func ( pr * Progress ) needSnapshotAbort ( ) bool { return pr . State == ProgressStateSnapshot && pr . Match >= pr . PendingSnapshot }"

用于Go代码文档生成的CodeTrans模型

该预训练模型基于Go编程语言，采用T5-small架构。首次发布于此代码库。本模型针对分词后的Go函数代码进行训练：在已分词的Go函数上表现最佳。

模型描述

此CodeTrans模型基于t5-small架构，拥有独立的SentencePiece词汇模型。采用单任务训练方式，训练数据来自CodeSearchNet语料库的Go数据集。

使用场景与限制

该模型可用于生成Go函数描述，或微调后处理其他Go代码任务。支持未解析和未分词的Go代码，但使用分词后的代码效果更佳。

使用方法

通过Transformers的SummarizationPipeline生成Go函数文档：

from transformers import AutoTokenizer, AutoModelWithLMHead, SummarizationPipeline

pipeline = SummarizationPipeline(
    model=AutoModelWithLMHead.from_pretrained("SEBIS/code_trans_t5_small_code_documentation_generation_go"),
    tokenizer=AutoTokenizer.from_pretrained("SEBIS/code_trans_t5_small_code_documentation_generation_go", skip_special_tokens=True),
    device=0
)

tokenized_code = "func ( pr * Progress ) needSnapshotAbort ( ) bool { return pr . State == ProgressStateSnapshot && pr . Match >= pr . PendingSnapshot   }"
pipeline([tokenized_code])

可在Colab笔记本中运行此示例。

训练数据

监督训练任务数据集可从此链接下载。

评估结果

不同模型在代码文档生成任务上的BLEU评分表现：

测试结果：

由Ahmed Elnaggar | LinkedIn和魏丁 | LinkedIn创建