在生物医学文本挖掘领域,数据问题主要体现在数据稀缺性和类别不平衡性两个方面。基于此,提出一种融合大语言模型和数据增强策略的新型方法,通过生成式增强手段提升训练数据的多样性和代表性,以实现更高效、可靠的生物医学事件因果关系抽取。
点击空白处退出提示
在生物医学文本挖掘领域,数据问题主要体现在数据稀缺性和类别不平衡性两个方面。基于此,提出一种融合大语言模型和数据增强策略的新型方法,通过生成式增强手段提升训练数据的多样性和代表性,以实现更高效、可靠的生物医学事件因果关系抽取。
该项目为基于大语言模型的文本因果关系抽取系统,主要用于自动识别生物医学文献中的事件因果关系,实现复杂文本信息的结构化分析。系统主要包括数据预处理模块、因果关系识别模型模块和结果评估模块。
在数据处理阶段,通过构建并清洗生物医学文本数据集,对原始数据进行标准化处理,并利用掩码语言建模方法进行数据增强,以缓解小样本与类别不平衡问题。在模型识别阶段,系统基于T5大语言模型构建因果关系三分类识别架构,实现文本中因果关系的自动识别与分类。系统最终能够输出因果关系预测结果,并提供模型评估指标,为生物医学文本分析提供辅助支持。
在项目中本人主要负责数据处理、模型设计与训练优化等核心技术工作。项目采用Python作为主要开发语言,结合深度学习框架实现模型训练与实验验证。
在数据预处理阶段,对Hahn-Powell生物医学数据集进行清洗与格式整理,并设计专属掩码策略,通过大语言模型生成伪样本,实现数据增强以缓解数据不平衡问题。在模型构建方面,基于T5大语言模型设计因果关系三分类识别架构,引入Soft Prompt技术对模型输入进行优化,通过冻结模型主体参数,仅训练Prompt向量的方式降低训练成本并提升模型泛化能力。
在模型训练阶段使用交叉熵损失函数进行优化,并通过F1值、召回率等指标对模型性能进行评估。最终系统在小样本场景下相比基线模型F1值提升约15%,有效提升了生物医学文本因果关系识别的准确性。




评论