Tag: graph-neural-networks-gnn-gat
-
【AI 核心深度 M4-092】解释图神经网络与 Transformer 的关系。(Relationship Between Graph Neural Networks and Transformers)深度数理推导与工程落地解析
Transformer 是全连接图上的注意力 GNN;GNN 是稀疏图上固定/学习权重的注意力;Graph Transformer 用注意力 + 结构编码。
-
【AI 核心深度 M4-087】解释 GNN 的消息传递框架。(Message Passing Neural Network (MPNN) Framework in GNNs)深度数理推导与工程落地解析
每层分三步:邻居发消息(message)、聚合(aggregate,置换不变)、更新自身(update);堆叠 L 层即聚合 L 跳邻域。
-
【AI 核心深度 M4-088】比较 GCN、GraphSAGE 与 GAT。(Comparison of Graph Convolutional Networks: GCN, GraphSAGE, and GAT)深度数理推导与工程落地解析
GCN 用归一化的固定权重平均;GraphSAGE 采样邻居并学习聚合(可归纳);GAT 用注意力学习邻居权重。
-
【AI 核心深度 M4-089】解释 GNN 的过平滑与过挤压问题。(Oversmoothing and Oversquashing in Deep GNNs)深度数理推导与工程落地解析
过平滑:层数增加使节点表示趋同;过挤压:远距离信息需挤过瓶颈节点,导致长程依赖丢失。
-
【AI 核心深度 M4-090】解释 GNN 在大规模图上的训练策略。(Large-Scale Graph Training Strategies: Node Sampling, Layer Sampling, and Subgraph Partitioning)深度数理推导与工程落地解析
邻居采样(GraphSAGE/邻居爆炸)、子图采样(Cluster-GCN)、以及分布式训练与图分区。
-
【AI 核心深度 M4-091】解释异构图与关系图卷积(R-GCN)。(Heterogeneous Graphs and Relational Graph Convolutional Networks (R-GCN))深度数理推导与工程落地解析
异构图有多种节点/边类型;R-GCN 为每种关系用独立权重矩阵,参数随关系数增长,用基分解/块对角降参。