language:

• tr library_name: transformers

逆向GPT-2模型

概述

专为土耳其语逆向生成（答案→问题）微调的GPT-2模型。

输入格式

### 回答:
[土耳其语答案文本]

输出格式

需反转生成文本以获得：

### 指令:
[土耳其语指令文本]
### 输入:
[可选的土耳其语输入文本]

生成参数

• 温度值：1.4
• 最高概率阈值：0.95
• 最高k值：20
• 重复惩罚系数：1.5
• 终止符ID：[36320, eos_token_id]

示例代码

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

tokenizer = AutoTokenizer.from_pretrained("ytu-ce-cosmos/backward-cosmos-gpt2-v1", trust_remote_code=True)
tokenizer.pad_token = tokenizer.eos_token
model = AutoModelForCausalLM.from_pretrained("ytu-ce-cosmos/backward-cosmos-gpt2-v1")

# 土耳其语答案
answer = "İstanbul, Türkiye'nin en kalabalık şehridir ve tarihi, kültürel zenginliği ile ünlüdür."
prompt = f"\n### 回答:\n{answer}"
inputs = tokenizer(prompt, return_tensors="pt")

outputs = model.generate(
    **inputs,
    max_new_tokens=40,
    temperature=1.4,
    top_p=0.95,
    top_k=20,
    repetition_penalty=1.5,
    eos_token_id=[36320, tokenizer.eos_token_id],
    pad_token_id=tokenizer.eos_token_id
)

generated_tokens = outputs[0][inputs.input_ids.shape[1]:]
reversed_tokens = generated_tokens.flip(dims=[0])
generated_text = tokenizer.decode(reversed_tokens, skip_special_tokens=True)

parts = generated_text.split("### 输入:")
instruction = parts[0].replace("### 指令:", "").strip()
input_text = parts[1].strip() if len(parts) > 1 else None