language:

• zh
• en

ChatTruth-7B

ChatTruth-7B 基于Qwen-VL架构，通过精心构建的数据集进行优化训练。相比原模型，本版本显著提升了大分辨率图像处理能力，并创新性引入还原模块（Restore Module），大幅降低高分辨率计算开销。

运行环境要求

• transformers 4.32.0及以上

• Python 3.8及以上

• PyTorch 1.13及以上

• CUDA 11.4及以上

  
  

快速使用指南

from transformers import AutoModelForCausalLM, AutoTokenizer
from transformers.generation import GenerationConfig
import torch
torch.manual_seed(1234)
model_path = 'ChatTruth-7B' # 请替换为实际模型下载路径

tokenizer = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)

# 启用CUDA加速
model = AutoModelForCausalLM.from_pretrained(model_path, device_map="cuda", trust_remote_code=True).eval()

model.generation_config = GenerationConfig.from_pretrained(model_path, trust_remote_code=True)
model.generation_config.top_p = 0.01

query = tokenizer.from_list_format([
    {'image': 'demo.jpeg'},
    {'text': '识别图片中的文字内容'},
])
response, history = model.chat(tokenizer, query=query, history=None)
print(response)

# 输出示例：昆明太厉害了