语言: 英文
数据集:

• huggingartists/ot-rus
  标签:
• huggingartists
• 歌词
• 语言模型头部
• 因果语言模型

小部件示例:

• 文本: "I am"

此模型由 huggingartists 创建。

通过 演示 基于您喜爱的艺术家创建自己的机器人！

工作原理

要了解模型的开发过程，请查看 W&B 报告。

训练数据

模型基于 O.T (RUS) 的歌词进行训练。

数据集可在此处获取 这里。
并可通过以下方式使用：

from datasets import load_dataset  

dataset = load_dataset("huggingartists/ot-rus")  

探索数据，该数据在流水线的每一步都通过 W&B artifacts 进行跟踪。

训练流程

模型基于预训练的 GPT-2，并在 O.T (RUS) 的歌词上进行了微调。

超参数和指标记录在 W&B 训练运行 中，确保完全透明和可复现性。

训练结束时，最终模型 会被记录并版本化。

使用方法

您可以直接使用文本生成流水线调用此模型：

from transformers import pipeline  
generator = pipeline('text-generation',  
                     model='huggingartists/ot-rus')  
generator("I am", num_return_sequences=5)  

或使用 Transformers 库：

from transformers import AutoTokenizer, AutoModelWithLMHead  

tokenizer = AutoTokenizer.from_pretrained("huggingartists/ot-rus")  

model = AutoModelWithLMHead.from_pretrained("huggingartists/ot-rus")  

局限性与偏差

该模型存在 与 GPT-2 相同的局限性和偏差。

此外，用户推文中的数据会进一步影响模型生成的文本。

关于

由 Aleksey Korshuk 构建

更多详情，请访问项目仓库。