铁哥2019长文汇总

2020-01-06 约 1221 字预计阅读 3 分钟

计算神经学

这两年，频频有专家警示深度学习即将进入寒冬。而同时，一个名叫“类脑智能”的词汇火起来，这个概念说的是一种比目前深度学习更加接近人脑的智能。这背后的故事是，深度学习的大佬，目前已经注意到深度学习的原创性进展面临瓶颈，甚至呼吁全部重来。为了拯救这种趋势，模拟人脑再次成为一种希望。然而这一思路是否经得住深度推敲? 我本人做过多年计算神经科学和AI ，做一个抛砖引玉的小结。

机器学习是怎么巧妙揭开大脑工作原理的

注意我们反复在说的低维到高维，与高维到低维的问题，现实生活中的问题往往是高维到低维的映射，比如信号（高维）-决策（往往二维）过程，能够在高维空间里找到低维嵌入，往往就代表神经网络建立了真实世界的模型，正是因为这些模型，我们具有“举一反三” 和“泛化”的能力。

多任务学习的未来之路

这篇文章的惊人之处在于它通过学习沟通了几个神经科学的核心问题。一个普通的循环神经网络RNN，在多任务学习的基础上，涌现出模块化的结构，和模块之间的关联又恰恰体现任务之间的联系，那些共同使用的模块，代表了任务之间所共享的部分，比如工作记忆。

当深度学习握手脑科学-圣城会议归来

脑与深度学习的关系本来就是一个高度双向的主题，这个会议围绕以下几个核心问题：

1 深度学习的基础理论，深度学习为何work又为何不work？

2 如何从心理学和认知科学的角度归纳当下深度学习的不足？

3 如何用深度学习促进对人脑的理解，包含感知（视觉为主），认知与记忆。反过来如何促进AI？

空间简史-人类认识空间的旅程与其对强化学习的启示

本文是对okeefe 1978(栅格细胞发现者， 2014诺贝尔奖得主)的论文 cognitive map 的总结和延申。

从Nature 封面文章“天机”芯片看脑科学与AI的融合