从Nature封面文章“天机”芯片看脑科学与AI的融合
7月31日Nature杂志封面刊登了清华类脑计算团队的最新成果：天机芯片以及由其操控的自行车。Towards artificial general intelligence with hybrid Tianjic chip architecture
这则信息在一天之内在AI圈子引起了热议，而大部分吃瓜群众的状态则是云里雾里。这篇文章从脑与人工智能结合的潜力与背景， 看这系列最新工作的意义。我们说这个新工作的核心是能够同时在芯片上高效实现人工神经网络ANN和脉冲神经网络SNN， 所谓的ANN和SNN， 事实上是神经网络发展过程的两个分支。欲了解其背景先了解其历史。1. 神经网络家族的分合故事。
神经网络的故事从模拟单个神经元开始：神经元是神经网络信息传输的“原子”。通过一定的方法连接这些原子，就可以得到具有智能的系统， 这算是整个人工智能“连接主义”流派的哲学根基。那么如何构建这个认知的“原子” ？我们来看看最早的把连接主义引入机器学习的尝试。最早的模拟大脑的单个神经元的尝试， 是Warren McCulloch 和 Walter Pitts 在1943 提出而来神经元的模型。这个模型类似于某种二极管或逻辑门电路。一定的输入进来，被神经元汇集加和， 如何这个和的总量大于一个阈值，神经元就放电， 小于一个阈值，神经元就不放电。这个东西就好像某个微小的决策装置， 把很多因素加载在一起， 做一个最终的决策。我们想象无数的二极管可以构成一个计算机，那么无数这这样的神经元不就可以构成一个具有计算功能的大脑吗？这就是感知器的概念。这个高度简化的神经元事实上就是后来的人工神经网络ANN的基础， 简化得到的神经元事实上每一个的数学形式等价于一个加入了非线性过滤的线性回归。
转化为一个可以追踪的空间目标（之后可以用于躲避行人）。大家注意， 这是一个典型的脱胎于计算神经科学的网络架构，矩阵的连接还用到了树突计算。
然后我们来看中间的那个模块， neural state machine：神经状态机。这个网络把连续的听觉和视觉信号转化为离散的事件， 这些事件构成一个有限状态的机器，也就是我们通常说的马尔可夫链。这一步大家已经可以看到和决策有关的网络的联系，因为一旦把连续变化的信号抽象成了这种离散的马尔可夫链， 下一步就可以交给决策网络来决策了， 这里的决策主动是动作输出， 可以控制自行车在保持平衡的同时躲避障碍， 并对周围物体发出警戒信号。这个网络也是由一个脉冲神经网络SNN构成。在这里， 我们不难看出这是一个典型的人工设计与机器学习结合的模块化网络， 不能不让我们想起这类工作的先行之作：Science(Eliasmith, Chris, et al. “A large-scale model of the functioning brain."science338.6111 (2012): 1202-1205.) 在这个工作里， 研究人员构建了一个叫spaun的模块化网络， 可以进行多任务学习。Spaun的每个部分都是一个人工神经网络， 且可以与真实的脑区对应上， 比如视觉输入对应V1-V4 视皮层，它把真实的视觉信息压缩成一种低维度的编码（每个图像称为这一空间的一个点， 被称为pointer）。这种低维的信息表示形式很容易放入到工作记忆模块里（working memory）， 最终由解码网络转换（decoding）， 被动作输出网络执行（motor）。神经网络整体状态的调控由模拟basal ganglia的网络完成（Action Selection），它可以根据当下的任务整体调节信息的流动（如同一个综控系统， 调节每个网络之前的输入阀门）， 从而让大脑在不同的工作状态间灵活转换。这也体现了功能大脑的概念， 我们不必拘泥于某个脑区的名称， 而是记住每个脑区对应信息处理的功能。最终我们通过监督学习或强化学习来让这个系统掌握8种截然不同的任务， 包括：1， 抄写数字 2， 图像识别 3， 奖励学习， 4， 多个数字的工作记忆 5， 数数 6， 回答问题 7 简单的数学推理。
模拟人类大脑 ：人工智能的救赎之路 ？
参考
转化为一个可以追踪的空间目标（之后可以用于躲避行人）。大家注意， 这是一个典型的脱胎于计算神经科学的网络架构，矩阵的连接还用到了树突计算。- https://www.nature.com/articles/s41586-019-1424-8
- https://www.nature.com/articles/nature04701
- https://www.ncbi.nlm.nih.gov/pubmed/29154129
big92019-08-02 18:30:45
这个总结的很好，不失为一个探索人脑的方式，但是从更general的方面看，人脑也是通过某些原则自学习 自组织 进化成为这种结构的，我认为，从简单的网络模型，受到外因内因进化到复杂网络模型，是一个可期的研究方向；另外脉冲网络一定比ANN强吗，我觉得未必，就如同数字信号的作用未必比模拟信号的作用小一样，所谓大道至简，最简单的原则或者方法往往最好使[得意]
狮子心2019-08-02 21:24:28
路线比谷歌正确，强AI必然要沿spike 神经网络走。天机是真正做出电化学耦合的神经传导模型，ANN看做化学，SNN看做电，只有产生和人脑传导一样的特解，才能算做出强AI
吸引子2019-08-02 21:45:36
多模态是人工智能的未来，多模态的边界又在哪里？至少是思考和创造没有被替代，在天机芯片诞生之时，这个问题值得深思
gzluma2020-03-01 08:41:02
这篇综述立意高远，信息量很大，让我们看到了清华人在这场关系中国、人类命运的竞争中并不落伍。 预祝清华人在这个21世纪最伟大的机器智能事业中，夯实基础，团结协作，克服困难，突破创新！用优异的成果报效祖国，让中国能长久地屹立于世界民族之林！
白夜の彷徨い2019-08-03 00:31:45
脱裤子放屁，求洋大人点赞型科研，麻痹的一筐.shit的流毒
剑语2019-08-02 23:42:44
看到对天机解读最深刻的一篇[强][强]