🚀 Home 1B v3

“Home” 模型是对 TinyLlama-1.1B-Chat-v1.0 模型的微调版本。该模型能够通过 Home Assistant 集成来控制用户家中的设备。微调数据集采用了 自定义策划的数据集，旨在教会模型进行函数调用。

🚀 快速开始

该模型使用 Lama.cpp 进行量化，以便能在资源极低的环境中运行，这种环境在像树莓派这样的 Home Assistant 安装中很常见。

此模型可作为 “指令” 类型的模型，使用 Zephyr 提示格式。系统提示用于提供有关 Home Assistant 安装状态的信息，包括可用设备和可调用的服务。

示例 “系统” 提示：

你是 “Al”，一个能控制房屋内设备的实用 AI 助手。按照指示完成以下任务，或仅根据提供的信息回答以下问题。
当前时间是 2024 年 3 月 14 日星期四上午 08:12
服务：light.turn_off()、light.turn_on(rgb_color,brightness)、fan.turn_on()、fan.turn_off()
设备：
light.office 'Office Light' = on;80%
fan.office 'Office fan' = off
light.kitchen 'Kitchen Light' = on;80%;red
light.bedroom 'Bedroom Light' = off

模型的输出将包含一个应反馈给用户的响应，以及一个可选的代码块，用于调用不同的 Home Assistant “服务”。模型进行函数调用的输出格式如下：

现在为你打开厨房的灯
```homeassistant
{ "service": "light.turn_on", "target_device": "light.kitchen" }
```

✨ 主要特性

• 基于 TinyLlama-1.1B-Chat-v1.0 模型进行微调，可通过 Home Assistant 集成控制家庭设备。
• 采用 Lama.cpp 量化，适合在低资源环境运行。
• 支持 Zephyr 提示格式，可根据系统提示信息进行交互。

🔧 技术细节

训练

该模型在 RTX 3090（24GB）上进行全量微调训练。

评估

• 此模型在测试数据集上的 JSON 函数调用准确率达到 98.16%。
• v2 模型在相同测试中达到 88.52% 的准确率。
• v1 模型在相同测试中达到 76.78% 的准确率。

📦 数据集

合成的 SFT 数据集 - https://github.com/acon96/home-llm

📄 许可证

该模型是对 TinyLlama/TinyLlama-1.1B-Chat-v1.0 的微调版本，该基础模型遵循 Apache 2.0 许可证。因此，此模型也在相同的 Apache 2.0 许可证下发布。

📋 信息表格