许可证: MIT 语言:

• 英语 基础模型: TheBloke/Llama-2-7B-Chat-GGML 管道标签: 问答 库名称: transformers 标签:
• 医疗
• 对话
• 文本生成

🐍 Llama-2-GGML医疗聊天机器人🤖

Llama-2-7B-Chat-GGML医疗聊天机器人是一个基于_Llama-2-7B-Chat-GGML_模型和PDF《盖尔医学百科全书》的医疗聊天机器人项目。该机器人仍在开发中，但有望成为患者、医疗专业人士和研究人员的实用工具。它可以回答医学相关问题、提供医学文章摘要并生成医学文本。但请注意，该机器人不能替代专业医疗人员的建议。

📚 主要特性

• 采用经过微调的大语言模型(LLM) Llama-2-7B-Chat-GGML
  • 名称 - llama-2-7b-chat.ggmlv3.q2_K.bin
  • 量化方法 - q2_K
  • 位数 - 2
  • 大小 - 2.87 GB
  • 最大内存需求 - 5.37 GB
  • 用例 - 新型k-quant方法。对attention.vw和feed_forward.w2张量使用GGML_TYPE_Q4_K，其他张量使用GGML_TYPE_Q2_K。
  • 模型详情: Llama-2-7B-Chat-GGML
• 训练数据来自637页的PDF**盖尔医学百科全书第二版第一卷**，涵盖广泛医学主题
• 基于**Langchain和Chainlit**构建，可在CPU环境下运行，最低配置要求：
  • 操作系统: Linux/macOS/Windows
  • CPU: Intel® Core™ i3
  • 内存: 8 GB
  • 磁盘空间: 7 GB
  • GPU: 无需**(仅CPU)**
• 持续开发中，潜力巨大

🚀 快速开始

1. 打开Git Bash
2. 切换至目标目录
3. 执行克隆命令：

git clone https://github.com/ThisIs-Developer/Llama-2-GGML-Medical-Chatbot.git

4. 安装依赖包：

pip install -r requirements.txt

5. 运行程序：

chainlit run model.py -w

📖 对话示例

⛓️Chainlit版本 #v1.0.1.dev20230913

⚡Streamlit版本 #v2.0.1.dev20231230

演示视频: 📽️对话录像.mp4