许可证：apache-2.0

额外授权说明：若需了解我们如何处理您的个人数据，请阅读隐私政策。

Mistral-7B-v0.3模型卡片

Mistral-7B-v0.3大语言模型（LLM）是在Mistral-7B-v0.2基础上扩展词汇表的升级版本。

相较于Mistral-7B-v0.2，Mistral-7B-v0.3主要改进如下：

• 词汇表扩展至32768个词元

安装指南

建议配合mistral-inference使用mistralai/Mistral-7B-v0.3。如需HF transformers代码示例，请继续阅读下文。

pip install mistral_inference

模型下载

from huggingface_hub import snapshot_download
from pathlib import Path

mistral_models_path = Path.home().joinpath('mistral_models', '7B-v0.3')
mistral_models_path.mkdir(parents=True, exist_ok=True)

snapshot_download(repo_id="mistralai/Mistral-7B-v0.3", allow_patterns=["params.json", "consolidated.safetensors", "tokenizer.model.v3"], local_dir=mistral_models_path)

演示程序

安装mistral_inference后，环境将自动配置mistral-demo命令行工具。

mistral-demo $HOME/mistral_models/7B-v0.3

运行结果示例如下：

这是紧急广播系统的测试。仅为测试用途。

若遇真实紧急情况，您将收到行动指南。

本次测试
=====================
这是新博客软件的二次测试。尚未决定是否保留该软件。不确定是否继续使用
=====================
第三次测试：mistral AI在测试方面表现卓越。😊

第三次测试：mistral AI在测试方面表现卓越。😊

测试
=====================

使用transformers生成文本

如需通过Hugging Face transformers生成文本，可参考以下代码：

from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "mistralai/Mistral-7B-v0.3"
tokenizer = AutoTokenizer.from_pretrained(model_id)

model = AutoModelForCausalLM.from_pretrained(model_id)
inputs = tokenizer("你好，我的名字是", return_tensors="pt")

outputs = model.generate(**inputs, max_new_tokens=20)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

模型局限

Mistral 7B Instruct模型仅用于展示基础模型经微调后可获得出色性能，当前版本未内置内容审核机制。我们期待与社区共同探索如何建立精细的内容护栏机制，使模型能应用于需要受控输出的场景。

Mistral AI团队

核心成员包括：Albert Jiang、Alexandre Sablayrolles、Alexis Tacnet、Antoine Roux、Arthur Mensch、Audrey Herblin-Stoop、Baptiste Bout、Baudouin de Monicault、Blanche Savary、Bam4d、Caroline Feldman、Devendra Singh Chaplot、Diego de las Casas、Eleonore Arcelin、Emma Bou Hanna、Etienne Metzger、Gianna Lengyel、Guillaume Bour、Guillaume Lample、Harizo Rajaona、Jean-Malo Delignon、Jia Li、Justus Murke、Louis Martin、Louis Ternon、Lucile Saulnier、Lélio Renard Lavaud、Margaret Jennings、Marie Pellat、Marie Torelli、Marie-Anne Lachaux、Nicolas Schuhl、Patrick von Platen、Pierre Stock、Sandeep Subramanian、Sophia Yang、Szymon Antoniak、Teven Le Scao、Thibaut Lavril、Timothée Lacroix、Théophile Gervet、Thomas Wang、Valera Nemychnikova、William El Sayed、William Marshall等。