SAP
计算机辅助药物设计
C语言数组
sqoop
shell
transformer
充放电
C6678
二分
Java并发
GPT-3
mysql存储过程
语义分割
主备
升压ic
默认内存对齐数
历史
从零到壹搭建一个商城架构
自动控制考研
swiftui
GNN
2024/4/12 1:08:29
DGL中NN模块的构造函数
上图引用自：dgl用户文档第三章(nn模块编写）
"""构造函数完成以下几个任务：
1、设置选项。
2、注册可学习的参数或者子模块。
3、初始化参数。"""
import torch.nn as nn
from dgl.utils import expand_as_pai…
深度学习技巧应用22-构建万能数据生成类的技巧，适用于CNN,RNN,GNN模型的调试与训练贯通
大家好，我是微学AI，今天给大家介绍一下深度学习技巧应用22-构建万能数据生成类的技巧，适用于CNN,RNN,GNN模型的调试与训练贯通。本文将实现了一个万能数据生成类的编写，并使用PyTorch框架训练CNN、RNN和GNN模型。
目录࿱…
DGL在异构图上的GraphConv模块
回顾同构图GraphConv模块
首先回顾一下同构图中实现GraphConv的主要思路（以GraphSAGE为例）： 在初始化模块首先是获取源节点和目标节点的输入维度，同时获取输出的特征维度。根据SAGE论文提出的三种聚合操作，需要获取所…
DGL如何表征一张图
有关于DGL中图的构建
DGL 将有向图表示为一个 DGL 图对象。图中的节点编号连续，从0开始。我们一般通过指定图中的节点数，以及源节点和目标节点的列表，来构建这么一个图。
下面的代码构造了一个图，这个图有五个叶子节点。中心节点…
图神经网络论文笔记（一）——北邮：基于学习解纠缠因果子结构的图神经网络去偏
作者 ：范少华
研究方向 ：图神经网络
论文标题 ：基于学习解纠缠因果子结构的图神经网络去偏
论文链接 ：https://arxiv.org/pdf/2209.14107.pdf https://doi.org/10.48550/arXiv.2209.14107 大多数图神经网络(GNNs)通…
【GNN报告】中科院计算所徐冰冰: 图神经网络的域内及跨域泛化
目录 作者简介
分享嘉宾 图神经网络的域内及跨域泛化
Cross-domain Distribution Shift
编辑
【教程】使用 Captum 解释 GNN 模型预测
转载请注明出处：小锋学长生活大爆炸[xfxuezhang.cn] Colab Notebook 安装必须的库：
# Install required packages.
import os
import torch
os.environ[TORCH] torch.__version__
print(torch.__version__)!pip install -q torch-scatter -f https://d…
GNN邻接矩阵归一化
诸神缄默不语-个人CSDN博文目录 文章目录 1. 对称归一化 D − 1 2 A D − 1 2 D^{-\frac{1}{2}}AD^{-\frac{1}{2}} D−21AD−212. D − 1 A D^{-1}A D−1A 1. 对称归一化 D − 1 2 A D − 1 2 D^{-\frac{1}{2}}AD^{-\frac{1}{2}} D−21AD−21
代码参考自R-former&…
使用dgl库实现GCN【官方案例】
学习目的
学习使用gnn进行节点分类的基本工作流程，即预测图中节点的类别。
关于GCN节点分类的综述
在图数据上最流行和广泛采用的任务之一是节点分类，其中模型需要预测每个节点的真实类别。 在图神经网络之前，许多被提出的方法要么单独使用…
DGL在异构图上进行消息传递
异构图是包含不同类型的节点和边的图。不同类型的节点和边常常具有不同类型的属性。这些属性旨在刻画每一种节点和边的特征。在使用图神经网络时，根据其复杂性， 可能需要使用不同维度的表示来对不同类型的节点和边进行建模。
异构图上的消息传递可以分为…
编写高效的消息传递代码-对消息进行降维
DGL优化了消息传递的内存消耗和计算速度。利用这些优化的一个常见实践是通过基于内置函数的 update_all() 来开发消息传递功能。
除此之外，考虑到某些图边的数量远远大于节点的数量，DGL建议避免不必要的从点到边的内存拷贝。对于某些情况，比…
【翻译】Efficient Data Loader for Fast Sampling-Based GNN Training on Large Graphs
转载请注明出处：小锋学长生活大爆炸[xfxuezhang.cn] 此内容为机器翻译的结果，若有异议的地方，建议查看原文。 机器翻译的一些注意点，比如： 纪元、时代 > epoch工人 > worker火车、培训、训练师 > train Effic…
第九周.01.Neural Graph Collaborative Filtering
文章目录CFGNN的原理模型框架论文泛读摘要Introduction其他内容本文内容整理自深度之眼《GNN核心能力培养计划》公式输入请参考：
在线Latex公式论文：
Neural Graph Collaborative FilteringPPT代码别人的翻译：https://www.jianshu.com/p/95da…
第三周.03.异质图应用
文章目录创建简单数据集原始数据准备建图创建图分类数据集准备数据建图大图的处理：Sampling理论实操环境准备和数据载入采样MFG建模训练动态异质图的应用本文内容整理自深度之眼《GNN核心能力培养计划》创建简单数据集
创建自己的数据集，并用于节点分类…
《Rethinking the Expressive Power of GNNs via Graph Biconnectivity》阅读笔记
一.文章概述
现如今存在许多工作探索GNN的表达能力，然而对于其中大多数方法，仍然缺乏对它们可以系统地和可证明地获取哪些额外表达力的深刻理解。在本文中，作者通过图双连通性（biconnectivity）引入一类新的表达能力度…
图神经网络实战（5）——常用图数据集
图神经网络实战（5）——常用图数据集 0. 前言0. 图数据集介绍2. Cora 数据集3. Facebook Page-Page 数据集小结系列链接 0. 前言
图数据集往往比单纯的连接集合更丰富，节点和边也可以具有表示分数、颜色、单词等的特征。在输入数据中包含这些…
预训练GNN：GPT-GNN Generative Pre-Training of Graph Neural Networks
一.文章概述
本文提出了一种自监督属性图生成任务来预训练GNN，使得其能捕图的结构和语义属性。作者将图的生成分为两个部分：属性生成和边生成，即给定观测到的边，生成节点属性；给定观测到的边和生成的节点属性…
利用小批量训练的方法在子图中进行消息传递
如果用户只想更新图中的部分节点，可以先通过想要囊括的节点编号创建一个子图， 然后在子图上调用 update_all() 方法。例如：
nid [0, 2, 3, 6, 7, 9]
sg g.subgraph(nid)
sg.update_all(message_func, reduce_func, apply_node_func)同时也…
【图神经网络综述】A Comprehensive Survey on Graph Neural Networks（V4）
Paper: A Comprehensive Survey on Graph Neural Networks Published in: IEEE Transactions on Neural Networks and Learning Systems ( Volume: 32, Issue: 1, Jan. 2021) 摘要：近年来，深度学习彻底改变了许多机器学习任务，从图像分类和视…
图神经网络（GNN）最新顶会论文汇总【附源码】
得益于强大的建模和分析能力，图神经网络（GNN）在社交网络分析、推荐系统、知识图谱、文本分析、等诸多领域得到了广泛的应用，目前已成为了人工智能领域的热门研究方向。
在今年的各大顶会获奖论文中，图神经网络相关的论…
知识图谱实战应用18-知识图谱结合图神经网络GNN的实战应用，模型搭建与训练
大家好，我是微学AI，今天给大家介绍一下知识图谱实战应用18-知识图谱结合图神经网络GNN的实战应用，模型搭建与训练，本文将详细介绍如何基于Py2neo的知识图谱结合图神经网络（Graph Neural Network, GNN）实现一个应用项目。我们将首先导入CSV数据到Neo4j图数据库，然后利用G…
noisy node
起源
DeepMind 两部曲。
第一篇，以下简称SGR (simple gnn regularization)，熟人Peter。 SIMPLE GNN REGULARISATION FOR 3D MOLECULAR PROPERTY PREDICTION & BEYOND ICLR 2022 https://arxiv.org/pdf/2106.07971v2.pdf 第二篇，以下简称…
《The graph neural network model》笔记
Introduction
该论文应该是最早的讲GNN的论文。该论文的主要工作是实现一个转导(transduction)函数，把图GGG或者结点nnn映射到一个m维的嵌入向量：τ(G,n)∈Rm\tau(G,n) \in \mathbb{R}^mτ(G,n)∈Rm。
图领域应用可以分成两类：graph focuse…
图神经网络实战（2）——图论基础
图神经网络实战（2）——图论基础 0. 前言1. 图属性1.1 有向图和无向图1.2 加权图和非加权图1.3 连通图和非连通图1.4 其它图类型 2. 图概念2.1 基本对象2.2 图的度量指标2.2 邻接矩阵表示法 3. 图算法3.1 广度优先搜索3.2 深度优先搜索 小结系列链接 0. 前…
【KD】2023 NeurIPS Does Graph Distillation See Like Vision Dataset Counterpart?
简介 在大规模图数据集上进行GNN训练是一个艰巨的挑战。特别是在增量学习和图结构搜索这些经常需要重复训练的场景中，训练图模型不仅消耗大量时间，还对显存和计算能力提出了严峻要求。最近，图数据集蒸馏/图压缩(Graph Dataset Distillation / Graph Condensation)方法…
《Learning Combinatorial Optimization Algorithms over Graphs》阅读笔记
一.文章概述
本文提出将强化学习和图嵌入的组合以端到端地自动为图上组合优化问题设计贪心启发式算法，以避免设计传统算法所需要的大量专业知识和试错。学得的贪心策略行为类似增量构造解决方案的元算法，动作由解决方案当前状态上的图嵌入网络确定。作者…
图神经网络（GNN）性能优化方案汇总，附37个配套算法模型和代码
图神经网络的表达能力对其性能和应用范围有着重要的影响，是GNN研究的核心问题和发展方向。增强表达能力是扩展GNN应用范围、提高性能的关键所在。
目前GNN的表达能力受特征表示和拓扑结构这两个因素的影响，其中GNN在学习和保持图拓扑方面的缺陷是限制表…
图神经网络（Graph Neural Networks）简单介绍
文章目录 图神经网络（Graph Neural Networks）简单介绍什么是图神经网络图神经网络的基本概念1. 图（Graph）2. 邻接矩阵（Adjacency Matrix）3. 图信号（Graph Signal）4. 图卷积ÿ…
PyG快速安装（一键脚本，2021.7.14简单有效）
PYG快速安装通过脚本安装离线本地安装安装结果测试本文提供两种方法安装都可成功安装
pyg通过脚本安装
直接通过脚本安装，自建一个python脚本，直接运行即可，代码如下：
import logging
import subprocessfrom setuptools import…
各种同质图神经网络模型的理论和节点表征学习任务的集合包rgb_experiment
诸神缄默不语-个人CSDN博文目录
最近更新时间：2023.5.10 最早更新时间：2023.5.10
本文仅考虑同质图setting下的模型。 对于异质图场景，可以参考我写的另一篇博文：异质图神经网络（持续更新ing…）
node2ve…
Graph Neural Network: A First Glance
[TOC]GNN
Resources
从图(Graph)到图卷积(Graph Convolution)：漫谈图神经网络模型 (一)
Vocabulary
Fixed Point Theorem : a convergency guaranteeContraction MapBP: Almeida-Pineda vs BPTT
Short Notes
To make fff a Contraction Map: Penalize Jacobia…
GNN for NLP综述
图1：分类法，它沿着四个轴系统地组织NLP的GNN：图构建、图表示学习、编码器-解码器模型和applications。
摘要
深度学习已经成为处理自然语言处理（NLP）中各种任务的主要方法。尽管文本输入通常表示为一系列标记&#x…
【教程】DGL中的子图分区函数partition_graph讲解
转载请注明出处：小锋学长生活大爆炸[xfxuezhang.cn] 目录
函数形式
函数作用
函数内容
函数入参
函数返参
使用示例 实际上官方的函数解释中就已经非常详细了。
函数形式
def partition_graph(g, graph_name, num_parts, out_path, num_hops1, part…
论文分享——北邮：基于学习解纠缠因果子结构的图神经网络去偏
作者 ：范少华
研究方向 ：图神经网络
论文标题 ：基于学习解纠缠因果子结构的图神经网络去偏
论文链接 ：https://arxiv.org/pdf/2209.14107.pdf https://doi.org/10.48550/arXiv.2209.14107 大多数图神经网络(GNNs)通…
【图-注意力笔记，篇章2】Graphormer 和 GraphFormers论文笔记之两篇经典Graph Transformer来入门
Graphormer 和 GraphFormers的论文笔记前情回顾论文信息概览Graphormer论文信息概览论文核心要点介绍三大编码的介绍Centrality EncodingSpatial EncodingEdge Encoding其他一些需要注意的点结果概览及分析GraphFormer论文信息概览论文核心要点介绍背景的了解要点介绍结果概览及…
CS224W摘要19.GNNs for Science
文章目录Pre-Training GNN[^1]Recap挑战Pre-Training问题1Nave 预训练设置与效果Nave 预训练效果分析预训练的正确做法Node Level Pre-Training（两个无监督任务）Graph Level Pre-Training（一个有监督任务）小结及结果Hyperbolic Gr…
图神经网络实战——图论基础
图神经网络实战——图论基础 0. 前言1. 图属性1.1 有向图和无向图1.2 加权图和非加权图1.3 连通图和非连通图1.4 其它图类型 2. 图概念2.1 基本对象2.2 图的度量指标2.2 邻接矩阵表示法 3. 图算法3.1 广度优先搜索3.2 深度优先搜索 小结系列链接 0. 前言
图论 (Graph theory) …
图神经网络实战——图论
图神经网络实战——图论 0. 前言1. 图属性1.1 有向图和无向图1.2 加权图与非加权图1.3 连通图非连通图1.4 其它图类型 2. 图概念2.1 基本对象2.2 图的度量指标2.2 邻接矩阵表示法 3. 图算法3.1 广度优先搜索3.2 深度优先搜索 小结系列链接 0. 前言
图论 (Graph theory) 是数学…
CS224W摘要18.Graph Neural Networks in Computational Biology
文章目录背景介绍问题与挑战药物及药物组合的安全性挑战解决方案：Polypharmacy Knowledge GraphPolypharmacy Dataset例子效果患者预后及疾病分类挑战解决方案：Subgraph Neural NetworksOverviewSubgraph Message PassingProperty-aware RoutingSubgraph…
Understanding Convolutions on Graphs
1. 介绍
传统的神经网络被用于对固定大小和/或规则结构的输入（例如句子、图像和视频）进行操作。这使得他们无法优雅地处理图结构数据。
图神经网络 (GNN) 是一系列神经网络，可以自然地对图结构数据进行操作。与孤立地考虑单个实体的模型相比…
图神经网络的基本结构
文章目录 图神经网络的基本结构图谱和图傅里叶变换基于频谱域的GNN和基于空间域的GNN的比较图神经网络的任务需求和模型要求任务需求模型要求 图神经网络的实用框架GCN图神经网络的几道面试题 图神经网络的基本结构
图神经网络 (Graph Neural Network, GNN) 是一类用于处理图数…
图神经网络GNN GCN AlphaFold2 虚拟药物筛选和新药设计
文章目录 图神经网络1. Geometric Deep LearningRepresentation learning 表征学习机器学习的数据类型：序列、网格、图引出GNN 2. Graph Neural NetworksMachine Learning Lifecyclelearning graph is hardFeature Learning in GraphsWays to Analyze NetworksA Nai…
异常检测 | Matlab基于GNN图神经网络的异常数据检测
异常检测 | Matlab基于GNN图神经网络的异常数据检测 目录 异常检测 | Matlab基于GNN图神经网络的异常数据检测效果一览基本介绍模型描述程序设计参考资料 效果一览 基本介绍 Matlab基于GNN图神经网络的异常数据检测。其核心思想是学习一个函数映射。本次使用人类活动数据&#…
Re46：读论文 DAGNN Towards Deeper Graph Neural Networks
诸神缄默不语-个人CSDN博文目录
论文名称：Towards Deeper Graph Neural Networks 模型简称：DAGNN
本文是2020年KDD论文，下载地址是https://www.kdd.org/kdd2020/accepted-papers/view/towards-deeper-graph-neural-networks 本文主要关注在…
图神经网络与图注意力网络
随着计算机行业和互联网时代的不断发展与进步，图神经网络已经成为人工智能和大数据的重要研究领域。图神经网络是对相邻节点间信息的传播和聚合的重要技术，可以有效地将深度学习的理念应用于非欧几里德空间的数据上。本期推送围绕图神经网络与图注意力网…
第八周.直播.Transformer in Graph
文章目录注意力基础知识论文带读摘要论文结构3.1 Structural Encodings in Graphormer3.1.1Centrality Encoding3.1.2 Spatial Encoding3.1.3 Edge Encoding in the Attention本文内容整理自深度之眼《GNN核心能力培养计划》公式输入请参考：
在线Latex公式注意力基础…
《Effects of Graph Convolutions in Multi-layer Networks》阅读笔记
一.文章概述
本文研究了在XOR-CSBM数据模型的多层网络的第一层以上时，图卷积能力的基本极限，并为它们在数据中信号的不同状态下的性能提供了理论保证。在合成数据和真实世界数据上的实验表明a.卷积的数量是决定网络性能的一个更重要的因素，而…
论文阅读 (94)：Substructure Aware Graph Neural Networks (SAGNN, AAAI2023)
文章目录 1 要点1.1 概述1.2 一些概念1.3 代码1.4 引用 2 基础知识2.1 符号2.2 信息传递神经网络 (MPNN) 3 方法3.1 子图提取3.1.1 基于节点的策略3.1.2 基于图的策略 3.2 随机游走返回概率编码3.3 子图信息注入的信息传递 1 要点
1.1 概述
题目：子结构感知图神经…
【GNN】人大魏哲巍“青源Talk”图机器学习
目录 简介
图学习历史与应用 历史-哥尼斯堡七桥问题
图历史发展介绍
图神经网络
应用（！！）
图学习近期工作
概况 图卷积神经网络（ICML，NIPS，KDD）
大规模图神经网络…
【教程】将Python转为C语言并编译生成二进制文件
转载请注明出处：小锋学长生活大爆炸[xfxuezhang.cn] 本教程以DGL版本的GCN为例，其他也相似。 1、安装cython、gcc：
sudo apt install cython gcc -y2、安装DGL、PyTorch：
pip3 install torch torchvision torchaudio
pip insta…
【论文阅读】LLM4GCL: CAN LARGE LANGUAGE MODEL EM-POWER GRAPH CONTRASTIVE LEARNING?
文章目录 0、基本信息1、研究动机2、创新点2.1、LLM-as-GraphAugmentor2.2、LLM-as-TextEncoder 3、准备3.1、文本属性图3.2、图神经网络3.3、文本属性图上的对比学习 4、LLM4GCL4.1、LLM v.s. Graph Augmentor4.1.1、LLM对特征增广4.1.2、LLM对结构增广 4.2、LLM作为文本编码器…
详解深度学习中的图神经网络GNN
引言 图神经网络GNN是深度学习的一个分支。
深度学习的四个分支对应了四种常见的数据格式，前馈神经网络FNN处理表格数据，表格数据可以是特征向量，卷积神经网络CNN处理图像数据，循环神经网络RNN处理时序数据，图神经网…
《Shortening passengers’ travel time A dynamic metro train scheduling approach using deep reinforcem》
本文目录1. 摘要2. AutoDwell系统架构2.1 离线学习程序2.2 在线部署程序3. AutoDwell3.1 列车特征提取器3.2 乘客特征提取器3.2.1 换乘站学习器3.2.2 普通站学习3.2.3 结论性循环网络3.3 融合组件3.4 算法优化1. 摘要
城市地铁已成为现代城市最重要的公共交通工具，…
碎片笔记｜图数据与图神经网络基础介绍
前言：前段时间了解了一下图神经网络，本篇博客记录一下相关知识，以备不时之需。 强烈推荐这篇博客（作者来自 Google Research），个人认为是图神经网络基础入门的不二选择！ 目录 一、图数据1.1 定义…
图神经网络GNN在推荐系统的应用：综述
参考：
论文1： 《Graph Neural Networks in Recommender Systems: A Survey》 https://arxiv.org/pdf/2011.02260.pdf论文2： 《Graph Neural Networks for Recommender Systems: Challenges, Methods, and Directions》 https://arxiv.org/pd…
Graph Representation Learning翻译版
章节1
引言
图是一种普遍存在的数据结构，也是一种描述复杂系统的通用语言。在最一般的视图中，图只是对象（即节点）的集合，以及这些节点对之间的一组交互作用（即边）。例如，要将社交网络编码为图，我们可以使用节点来表示个体，并使用边来表示两个个体是朋友（图1.1）。…
异配图神经网络——Graph Transformer Networks
一.论文概述
作者提出了Graph Transformer Network (GTN)用来在异配图（heterogeneous graph）上学习节点表示。通过Graph Transformer层，模型能将异构图转换为由meta-path定义的多个新图，这些meta-paths具有任意的边类型和长度&am…
