TPAMI 2026 | GNN 潜力真的释放了吗？BiKT 让 MLP 反向补课

📌 一句话摘要

本文介绍了一项被 TPAMI 2026 收录的研究 BiKT，该研究通过双向知识转移框架，让 GNN 与仅含特征变换操作的 MLP 互相学习，从而释放 GNN 中特征变换操作的潜力，并实现 20-100 倍的推理加速。

📝 详细摘要

本文解读了发表于 TPAMI 2026 的论文《BiKT: Unleashing the Potential of GNNs via Bi-Directional Knowledge Transfer》。研究指出，当前 GNN 研究过度关注特征传播（P）操作，而忽视了特征变换（T）操作的潜力。作者通过经验分析发现，显式引入图拓扑结构的 P 操作会干扰 T 操作对节点原始特征的建模，导致 GNN 未能充分利用 T 操作。为此，他们提出了 BiKT 框架，通过生成式表示分布建模、知识注入和循环参数继承，实现宿主 GNN 与衍生 MLP 之间的双向知识传递。实验表明，BiKT 在 7 个数据集和 5 种 GNN 架构上带来 0.5%-6.86% 的性能提升。更重要的是，经过知识注入的 MLP 在性能上可媲美甚至超越原始 GNN，且推理速度提升 20-100 倍，为延迟敏感场景提供了轻量级替代方案。

💡 主要观点

- GNN 中特征变换（T）操作的潜力未被充分释放。 现有 GNN 研究过度聚焦于特征传播（P）操作，而特征变换操作受 P 操作干扰，未能有效建模节点原始特征，导致 GNN 性能受限。

BiKT 通过双向知识转移框架实现 GNN 与 MLP 的互补。 BiKT 利用生成式表示分布建模和循环参数继承，让 GNN 学习 MLP 的纯特征建模能力，同时让 MLP 吸收 GNN 的拓扑结构偏置，实现优势互补。

知识注入后的 MLP 可替代 GNN 实现 20-100 倍推理加速。 经过 BiKT 训练的衍生 MLP 在性能上可媲美甚至超越原始 GNN，且推理阶段无图结构依赖，适用于延迟敏感场景，提供轻量级部署方案。

💬 文章金句

- GNN 中的特征变换真的发挥出全部潜力了吗？

目前的 GNN 在很大程度上'丢弃'了 T 操作本来能从节点原始特征中捕捉到的宝贵信息。
只要引导得当，MLP 在图学习任务中完全有能力叫板甚至替代复杂的 GNN。
BiKT 巧妙地通过表示分布建模和循环参数继承，让 GNN 与衍生的 MLP 实现了深度的优劣势互补。

📊 文章信息

AI 初评：82

来源：PaperWeekly

作者：PaperWeekly

分类：人工智能

语言：中文

阅读时间：13 分钟

字数：3012

标签： GNN, MLP, 知识蒸馏, 特征变换, TPAMI

阅读完整文章

TPAMI 2026 | GNN 潜力真的释放了吗？BiKT 让 MLP 反向补课

🤖 問 AI