论文笔记：Frozen Language Model Helps ECG Zero-Shot Learning

2023 MIDL

1 intro

• 心电图（ECG）被广泛应用于检测各种心脏疾病，包括心律失常、心脏病发作和心力衰竭等
• 近些年深度学习方法在心电图数据分类领域取得了不错的效果。
  • 基于深度学习的ECG数据分类方法，通常以监督学习范式进行训练，需要大量的高质量标记数据
  • 
• 一些特殊形式的心电图数据往往难以获得准确的数据标签，需要受过专业培训的心脏病专家对心电图进行手动解释，耗费大量时间及成本
  • ——>部分研究采用自监督预训练+微调的范式来对ECG数据进行分类
  • 
  • 相比于基于监督学习方法，这类方法能够更灵活地适配异常检测、心律失常分类等下游任务
  • 但仍然需要一定量的与下游任务相关的标记样本来对模型进行微调
• 上述两种范式并不能实现零样本学习任务，即模型能够识别训练或微调数据中并没有见过的类别
  • 现有的零样本学习方法通过从已知类别样本中学习共享特征，然后基于未见类别特征的“描述”将共享特征推广到未见类别样本上来实现分类
  • 对于ECG数据，未见类别的“描述”可以借用外部医学领域知识，例如文本形式的心电图报告
  • ——>论文利用临床报告来引导ECG数据的预训练，实现ECG数据的零样本学习

2 方法

训练时候的文本： 

测试阶段的文本：