




深圳先進院有效解決深度圖卷積學習中的過平滑表征問題
近日,中國科學院深圳先進技術研究院數字所吳紅艷團隊在深度圖學習網絡取得進展,最新研究成果以Smoothness Sensor: Adaptive Smoothness-Transition Graph Convolutions for Attributed Graph Clustering為題在機器學習領域重要期刊IEEE Transactions on Cybernetics(IF:11.079)上發表。該研究解決了深度圖卷積網絡中欠平滑和過平滑所導致的節點表征不準確,從而使得下游分類、聚類任務性能下降的問題。深圳先進院數字所工程師紀超杰、碩士生陳宏威是共同一作,研究員蔡云鵬和高級工程師吳紅艷為共同通訊作者。
深度圖卷積網絡近年來在生命科學、精準健康及社會科學數據分析等領域,例如在基因相互作用關系、多組學疾病標志物發現等圖網絡學習,日益得到廣泛應用。基于深度圖卷積網絡的屬性圖學習可以有效地融合圖的節點屬性信息和拓撲結構信息實現復雜知識的高效發現。然而,深度卷積的欠平滑或過平滑都將導致圖表征學習不準確,使得下游任務學習性能下降。
傳統的深度圖卷積學習方法對整個圖網絡采用固定次數的卷積操作、淺層卷積將導致節點表征的欠平滑,而過高層次的卷積在帶來過平滑問題的同時浪費計算資源。團隊考慮到整個圖網絡的節點并非一致性地需要固定次數的卷積,針對不同節點的情況采用不同階次的卷積可以更好地表征節點并合理利用計算資源。
針對上述情況,團隊利用低通濾波信號對圖信號進行過濾,對圖網絡每個節點的現有光滑程度及卷積后的光滑程度進行預測,在此基礎上進行自適應的圖卷積學習,使得每個節點都得到準確表征,克服圖卷積網絡的欠平滑和過平滑問題。
算法在多個不同尺度和類型的數據集上進行驗證,下游的節點分類和聚類任務在精準度和擴展性上均顯著優于目前流行的基線方法,表明算法可以有效解決圖卷積網絡的欠平滑和過平滑問題。算法將用于生命科學領域涉及的多種深度圖學習問題。
該工作獲得了B類先導專項“多維大數據驅動的中國人群精準健康研究”等項目的支持。

基于自適應圖卷積的屬性圖學習框架