许可证: mit
基础模型: facebook/bart-large-cnn
标签:

• 训练生成
  指标:
• rouge
  模型索引:
• 名称: conversation-summ
  结果: []
  数据集:
• har1/MTS_Dialogue-Clinical_Note
  语言:
• en

HealthScribe (临床笔记生成器)

该模型是基于facebook/bart-large-cnn在修改版MTS-Dialog数据集上微调而成。

模型描述

该模型为项目HealthScribe开发，已集成至Flask网络应用。该项目是一个允许用户从医患对话的自动语音识别(ASR)转录数据生成临床笔记的Web应用程序。

推理测试数据样本（更多示例见test.txt）

"医生：嗨，这条裙子真漂亮！  
患者：谢谢您夸奖一位72岁的病人。  
医生：不，我是认真的。您于2009年5月入院，有高血压病史，2009年6月18日出现严重腹痛、腹泻和痉挛。  
患者：是的，他们说我可能感染了艰难梭菌？做了腹部CT后确认感染。  
医生：CT显示弥漫性结肠炎，应该给您静脉注射了抗生素？  
患者：是的。  
医生：记录显示用了甲硝唑和左氧氟沙星，还因呕吐给您静脉注射了胃复安。  
患者：当时恶心呕吐很严重。  
医生：治疗后白细胞仍偏高，现在还恶心吗？  
患者：不恶心了，但仍有腹泻，导致身体虚弱。  
医生：还有其他症状吗？  
患者：没有了。  
医生：好的。"

使用范围与限制

该模型用于从医患对话数据(ASR)生成临床笔记，存在以下限制：

• 低概率生成"N/A"输出，有时会产生"None"
• 当输入数据极简短或过长时可能出现幻觉生成

训练指标

训练与评估数据

模型在验证集上的表现：

• 损失值: 0.1562
• Rouge1: 54.3238
• Rouge2: 34.2678
• Rougel: 46.5847
• Rougelsum: 51.2214
• 生成长度: 77.04

训练流程

模型基于修改版MTS-Dialog的1201条训练样本和100条验证样本训练。

训练超参数

• 学习率: 2e-05
• 训练批大小: 1
• 评估批大小: 1
• 随机种子: 42
• 梯度累积步数: 2
• 总训练批大小: 2
• 优化器: Adam (beta1=0.9, beta2=0.999, epsilon=1e-08)
• 学习率调度器: 线性
• 训练轮次: 3
• 混合精度训练: Native AMP

训练结果

框架版本

• Transformers 4.39.2
• PyTorch 2.2.1+cu121
• Datasets 2.18.0
• Tokenizers 0.15.2