在语言级别的模态进行初步的情感识别并进行BERT的特征提取。
对于图片数据,利用CNN,Vi-Transformer进行特征提取,并利用Pytorch计算语言数据的对应程度,完成特征对其。
将对齐的数据进行特征融合,输出到Cross-Attention-Modality网络中进行前向传播与Loss计算。
针对不同的下游任务进行特定的超参数微调(Fine-Tuning).可将该模型迁移至任意给定的多模态任务。
点击空白处退出提示
行业分类
人工智能
在语言级别的模态进行初步的情感识别并进行BERT的特征提取。
对于图片数据,利用CNN,Vi-Transformer进行特征提取,并利用Pytorch计算语言数据的对应程度,完成特征对其。
将对齐的数据进行特征融合,输出到Cross-Attention-Modality网络中进行前向传播与Loss计算。
针对不同的下游任务进行特定的超参数微调(Fine-Tuning).可将该模型迁移至任意给定的多模态任务。





评论