资源类型：
收录情况：
◇ 统计源期刊
文章类型：
单位：
[1]华中科技大学同济医学院附属同济医院肾内科
内科学系
肾病内科
华中科技大学同济医学院附属同济医院
[2]华中科技大学同济医学院附属同济医院综合医疗科
综合医疗科
华中科技大学同济医学院附属同济医院
出处：
ISSN：
关键词：
文本分类
ChineseBERT
BiSRU
软注意力
摘要：
针对静态词向量模型语义表示质量不高，深度学习模型无法聚焦关键特征等问题，提出了基于ChineseBERT-BiSRU-AT的医疗文本分类模型。预训练模型ChineseBERT融入字形和拼音特征，通过参考词的具体上下文语境，学习到词的动态语义表示。BiSRU模块提取文本高维序列特征，软注意力机制赋予关键词更高权重。在影像报告文本数据集进行实验，结果表明Chinese-BiSRU-AT模型取得了最高的F1分数，BiSRU模块训练效率更优，ChineseBERT模型应用效果更佳。
基金：
全国教育科学国防军事教育学科“十二五”规划教育部重点课题（DRA110425）；
第一作者：
第一作者单位：
[1]华中科技大学同济医学院附属同济医院肾内科
通讯作者：
推荐引用方式(GB/T 7714)：
彭清泉,王丹.基于深度学习的医疗文本分类模型[J].电子设计工程.2023,31(05):51-54+60.
