从图网络表示到图神经网络

人工智能的不同算法围绕不同数据结构展开。数据的本质是一大串互相联系的数字。最简单的情况下, 这串数字是一些只有上下左右相连的,我们称之为像素, 这就是图像。如果数字和数字之间是单向的连接, 而且这个箭头有着单一的指向,那么这个数据类型就是时间序列。而在更一般的情况下, 数字和数字之间,是一个互相联系的复杂网络, 这时候我们用节点和连接它们的边来描述这种数据类型, 这就是我们说的图网络结构。对于图像CNN是目前深度学习的集大成者, 对于时间序列RNN, transformer是集大成者, 那么对于图结构呢?这就是当下的图神经网络崛起的背景。而事实上, 关于图的研究, 远早于图神经网络已有之, 这个系列, 通过被称为graph embding, 也就是把网络的拓扑结构和节点本质, 通过一定方法压缩到一个向量表示里(正如通过CNN和RNN我们可以得到图像或时间序列的向量表示)。我们在这里展望下都有这个历史门派:首先, 为什么要研究图网络, 是因为这和machine learning的核心使命, 预测与决策,息息相关。我们有时候要预测同在一个社会网络里的张三和李四是什么关系, 有时候要预测在不同的网络结构趋向于图中的A或B, 哪一个是manager, 哪一个是worker, 或者某个网络区域哪一个处在CBD, 哪一个是贫民窟。 根据不同的目标, 我们需要对图进行embedding的方法就不一样。/pic/16_Qa9f0M2dJVjdpzE9DHEyUVOVIkZMdA.jpg.2 GRAPH CONVOLUTIONAL NETWORKS, THOMAS KIPF3 Spectral Graph Convolution Explained and Implemented Step By Step,Boris Knyazev更多阅读
巡洋舰人工智能资源打开手册
人工智能在电网管理中的应用

吸引子2019-12-22 16:35:53

我再加几个疑问:人是怎么做到一个模式的识别和学习的呢?一个人对外连接是好奇心的驱使,但又不是对外界所有东西都感兴趣,所有做不到,但又如何从一个不相关的事物跳到另一个不相关的事物?一个孩子,你不教他,他对这个事物都可以视而不见,教他一些知识后,又会主动接触探索,如何面对冷启动,热启动的问题?不忘初心,方得始终,多年后,初心变了,可能初心都不记得了,是人对环境的相互妥协,人的异化也没有十分的可怕,在图网络中可以解释为节点飘移(自己造的词)又该怎么表示?面对这么多问题,期待图网络有新的爆发!

JUN2020-01-02 11:41:21

问题4对应GraphSAGE

~2019-12-22 19:00:30

这篇文章提到的问题很有深度,涉及到数学最基本最前沿的一些思路,我也正好研究相关问题好些年了,感觉是从数论几何角度去理解会比较自然,比如微分几何的里奇流和数论里的欧拉乘积公式的关系,这种关系可以对应到物理上当年从玻尔兹曼熵公式到薛定谔方程的过程,通过这种思路对应,可以还原文中相关问题,从而给出因果关系的神经网络解释。