🚀 J.A.R.V.I.S.智能语言模型

J.A.R.V.I.S.（Just a Rather Very Intelligent System）是一款受《钢铁侠》中标志性助手启发的先进AI语言模型。它具备上下文感知和高保真的自然语言处理能力，可广泛应用于各类场景。

🚀 快速开始

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer, TextStreamer

# 模型
model = "hadadrjt/JARVIS"

# 加载分词器和模型
tokenizer = AutoTokenizer.from_pretrained(model)
model = AutoModelForCausalLM.from_pretrained(
    model,
    torch_dtype="auto",
    device_map="auto"
)

# 用户输入
input = "Tell me about yourself" # 在此插入你的消息。

# 构建聊天式提示
messages = [{"role": "user", "content": input}]

text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True,
    enable_thinking=True
)

# 对输入进行分词
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

# 流式设置
streamer = TextStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)

# 流式生成响应
with torch.inference_mode():
    generated_ids = model.generate(
        **model_inputs,
        max_new_tokens=32768,
        temperature=0.6,
        top_p=0.95,
        min_p=0,
        top_k=20,
        repetition_penalty=1.0,
        streamer=streamer
    )

✨ 主要特性

• 强大的文本生成引擎：J.A.R.V.I.S.是AI解决方案的核心，能够生成自然且富有创意的高质量文本，助你创作出鼓舞人心、引人入胜的内容。
• 无缝集成，无限可能：J.A.R.V.I.S.设计灵活，可无缝集成到各种平台和系统中，包括Web应用、聊天机器人、代理模式、工具、系统集成和自动化工作流程，能轻松适应可用资源容量。
• 可扩展且资源感知：无论你的计算环境如何，从轻量级设备到企业级基础设施，J.A.R.V.I.S.都能进行优化以实现最佳性能，确保高效响应。
• 广泛的用例：适用于各种需求，从创意内容创作、写作辅助到开发交互式文本应用，为你提供无限创新自由。
• 代理式使用：具体使用示例，请参考Qwen3文档和Qwen-Agent GitHub仓库。

📦 安装指南

Ollama安装

J.A.R.V.I.S.模型在Ollama上的源可在此处找到。

ollama run hadad/JARVIS

# 4位（Q4_K_M）
ollama run hadad/JARVIS:4bit

💻 使用示例

基础用法

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer, TextStreamer

# 模型
model = "hadadrjt/JARVIS"

# 加载分词器和模型
tokenizer = AutoTokenizer.from_pretrained(model)
model = AutoModelForCausalLM.from_pretrained(
    model,
    torch_dtype="auto",
    device_map="auto"
)

# 用户输入
input = "Tell me about yourself" # 在此插入你的消息。

# 构建聊天式提示
messages = [{"role": "user", "content": input}]

text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True,
    enable_thinking=True
)

# 对输入进行分词
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

# 流式设置
streamer = TextStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)

# 流式生成响应
with torch.inference_mode():
    generated_ids = model.generate(
        **model_inputs,
        max_new_tokens=32768,
        temperature=0.6,
        top_p=0.95,
        min_p=0,
        top_k=20,
        repetition_penalty=1.0,
        streamer=streamer
    )

📚 详细文档

核心能力

J.A.R.V.I.S.作为你智能可靠的AI伙伴，拥有惊人的能力。它能自信地回答你最棘手的问题，用简单的语言解释复杂的概念，流畅地进行语言翻译，编写简洁高效的代码，将冗长的信息总结为易于理解的要点，用新颖原创的内容激发你的创造力，并以专业建议指导你的学习或研究。这仅仅是J.A.R.V.I.S.能为你做的事情的开始。

笔记本使用

尽管该模型规模大、参数多，但你可以使用我优化的脚本在Google Colab上免费运行它。点击此处访问。

负责任使用

尽管J.A.R.V.I.S.能带来令人印象深刻的结果，但它可能反映其训练数据中的偏差，偶尔会产生错误输出。在没有人工监督的情况下，它不适用于实时安全关键应用。我建议实施人工审核流程，监控输出的公平性和准确性，并随着时间推移用特定领域的数据更新模型。

致谢与联系

本项目基于Qwen3-14B开源基础构建。如需反馈、合作或支持，请通过hadad@linuxmail.org联系Hadad Darajat。我欢迎有助于J.A.R.V.I.S.不断发展的贡献。

📄 许可证

本项目采用Apache-2.0许可证。

📖 引用

@misc{jarvis,
  title   = {J.A.R.V.I.S.},
  author  = {Hadad Darajat},
  year    = {2025},
  license = {Apache-2.0},
  base    = {Qwen/Qwen3-14B}
}

⚠️ 重要提示

尽管J.A.R.V.I.S.能带来令人印象深刻的结果，但它可能反映其训练数据中的偏差，偶尔会产生错误输出。在没有人工监督的情况下，它不适用于实时安全关键应用。

💡 使用建议

建议实施人工审核流程，监控输出的公平性和准确性，并随着时间推移用特定领域的数据更新模型。