解决并验证了MLP时序模型在GPU负载预测中存在的“频率偏置”现象,模型过度学习低频频谱分量,忽略反映突发负载的高频细节。
点击空白处退出提示
解决并验证了MLP时序模型在GPU负载预测中存在的“频率偏置”现象,模型过度学习低频频谱分量,忽略反映突发负载的高频细节。
提出频域分块与频域归一化策略,将频谱切分为多个子带独立归一化,迫使模型均衡学习各频段特
征;设计频域通道MLP与时序MLP联合提取跨变量依赖与时间依赖。
损失函数:引入频域损失函数,与时空域损失联合优化,增强泛化能力并抑制过拟合。
研究内容:解决并验证了MLP时序模型在GPU负载预测中存在的“频率偏置”现象,模型过度学习低频频谱
分量,忽略反映突发负载的高频细节。
方法创新:
提出频域分块与频域归一化策略,将频谱切分为多个子带独立归一化,迫使模型均衡学习各频段特
征;设计频域通道MLP与时序MLP联合提取跨变量依赖与时间依赖。
损失函数:引入频域损失函数,与时空域损失联合优化,增强泛化能力并抑制过拟合。
实验成果:在Alibaba 2018/2020和Google 2019真实GPU集群数据上,相较Autoformer、Informer、
DLinear等8类SOTA模型,MSE最大降低8%,MAE最大降低17%;消融实验验证了频域分块与频域损失
的独立有效性。



评论