通过分析包含attention的神经网络模型(如:Transformer/图神经网络)中注意力机制的流动来做模型决策路径的归因;知乎:https://zhuanlan.zhihu.com/p/150869105;github:https://github.com/qjf42/AttentionPathExplainer
评论