科研进展

深圳先进院有效解决深度图卷积学习中的过平滑表征问题

  

  近日,中国科学院深圳先进技术研究院数字所吴红艳团队在深度图学习网络取得进展,最新研究成果以Smoothness Sensor: Adaptive Smoothness-Transition Graph Convolutions for Attributed Graph Clustering为题在机器学习领域重要期刊IEEE Transactions on Cybernetics(IF:11.079)上发表。该研究解决了深度图卷积网络中欠平滑和过平滑所导致的节点表征不准确,从而使得下游分类、聚类任务性能下降的问题。深圳先进院数字所工程师纪超杰、硕士生陈宏威是共同一作,研究员蔡云鹏和高级工程师吴红艳为共同通讯作者。 

  深度图卷积网络近年来在生命科学、精准健康及社会科学数据分析等领域,例如在基因相互作用关系、多组学疾病标志物发现等图网络学习,日益得到广泛应用。基于深度图卷积网络的属性图学习可以有效地融合图的节点属性信息和拓扑结构信息实现复杂知识的高效发现。然而,深度卷积的欠平滑或过平滑都将导致图表征学习不准确,使得下游任务学习性能下降。 

  传统的深度图卷积学习方法对整个图网络采用固定次数的卷积操作、浅层卷积将导致节点表征的欠平滑,而过高层次的卷积在带来过平滑问题的同时浪费计算资源。团队考虑到整个图网络的节点并非一致性地需要固定次数的卷积,针对不同节点的情况采用不同阶次的卷积可以更好地表征节点并合理利用计算资源。 

  针对上述情况,团队利用低通滤波信号对图信号进行过滤,对图网络每个节点的现有光滑程度及卷积后的光滑程度进行预测,在此基础上进行自适应的图卷积学习,使得每个节点都得到准确表征,克服图卷积网络的欠平滑和过平滑问题。 

  算法在多个不同尺度和类型的数据集上进行验证,下游的节点分类和聚类任务在精准度和扩展性上均显著优于目前流行的基线方法,表明算法可以有效解决图卷积网络的欠平滑和过平滑问题。算法将用于生命科学领域涉及的多种深度图学习问题。 

  该工作获得了B类先导专项“多维大数据驱动的中国人群精准健康研究”等项目的支持。

  论文链接  

基于自适应图卷积的属性图学习框架