谈谈元学习的技术实现框架

机器学习围绕一个具体的任务展开, 然而生物体及其一生, 学习的永远不只是一个任务。与之相对应的叫做元学习, 元学习旨在掌握一种学习的能力, 使得智能体可以掌握很多任务。如果用数学公式表达, 这就好比先学习一个函数F(x),代表一种抽象的学习能力, 在此基础上学习f(x)对应具体的任务, 如下图所示 。我们做一个比喻, 机器学习学习某个数据分布X到另一个分布Y的映射。而元学习学习的是某个任务集合D到每个任务对应的最优函数f(x)的映射(任务到学习函数的映射)/pic/20_omMjnz6fcFl06vhXkjZBMLPlew8sAg.jpgLearning to reinforcement learn JX Wang多阶段的学习, 通过学习先验结构, 流行表示, 世界模型的交互性过程,得到类似生物的多任务能力, 当这种能力越来越强, 我们是否打开了AGI的大门?所有的元学习都需要不同形式的记忆, 如procedural, episodic, associative。而把不同的记忆模块有机结合起来, 通过attention来读取, 最终我们是否会得到一个类似大脑的网络?同样的, 元学习的方法是否可以提示我们大脑是如何进行快速的适应和学习, 拥有如此高的数据利用效率?这些都是非常有意义的问题。如果你有合作的想法, 可联系许铁, 这也是清华脑与智能实验室的一个重要探索方向。更多阅读
站在AI与神经科学交叉点上的强化学习
类脑计算背后的计算神经科学框架

老师2019-10-24 10:33:43

我快哭了,自己的想法正在一步一步被这个世界实现

吸引子2019-10-29 12:44:59

人在快速学习一件新事物的时候,讲述者往往用大家都熟悉的事物来比喻使听众得到很好的理解,这就渗透着元学习的一些方法,但又不同于文章中讲的方法,比如水、水蒸汽和冰本质上是一种物质,只是在不同物理环境下的不同表现形式,这样的本质学习又属于哪一类呢?是否还是元学习呢?