“AI教母”李飞飞（左）， 前谷歌DeepMind首席科学家Jeff Dean（右）

出品｜搜狐科技

作者｜郑松毅

编辑｜杨锦

RSI，递归自我改进，是眼下AI圈最热的话题之一。

讨论度最高的莫过于：当AI系统能够自我改进，会不会越跑越快，快到失控？

近日，在斯坦福HAI大会的压轴对谈中，“AI教母”李飞飞与谷歌大脑传奇巨匠Jeff Dean，把这个问题摆上了台面：谈及RSI的定义、揭开技术真相与大众想象的差距、以及AI进化对人类社会的实质影响。

“这个词在硅谷被叫得太随意”

今年8月，Jeff Dean结束27年谷歌生涯，和Sanjay Ghemawat、Quoc Le、Oriol Vinyals一起创办Discovery Loop。

这是一家公益公司，使命很直白：自动化机器学习、科学和工程。

比公司业务本身更先受到关注的，是这四位“各执长剑”的圈内大佬，他们共同参与过今天许多高能力模型的重要技术，包括模型蒸馏、混合专家模型（MoE），以及神经架构搜索，这些也基本是谷歌AI的地基。

很多人疑惑，Jeff Dean作为谷歌元老级员工，为何甘愿放弃已经成熟的果实，非走不可？

答案要追溯到Quoc Le十年前的神经架构搜索。这项工作，算得上早期的AI自我改进系统，只不过当时需要靠大量零散的Python代码，硬性框定模型的搜索空间。

“现在不一样了，我们可以直接用自然语言把任务交给模型，这是一个全新的阶段。”Jeff Dean说。

他也时常自嘲，有人会说他们有点“loopy”——有点疯。

一顿开场介绍后，李飞飞把话题拉回定义。

她提到，这个概念换过很多名字：增量学习、持续学习、元学习、终身学习、神经架构搜索，如今又有自我改进和RSI。

在Jeff Dean看来，虽然技术名称多样，但RSI的技术界限可以被划得很清楚。

“虽然自我改进的技术路子，通常是给系统一个可测的目标，比如模型准确率，让它不断试架构、试方法，把（准确率）数字往上推。但这还不算递归。”Jeff Dean指出。

他进一步解释区别：之前的自我改进技术并没有改进那个“提出下一步实验方案”的基础系统。而递归自我改进（RSI），是把同样的方法用在提方案的系统本身上。

简单来说，一个是改模型，一个是改“模型的脑子”。

李飞飞对此表示认同，同时警惕这种混淆：“不少宣传把前者包装成后者。尤其在硅谷，人们用得很随意，作为科学家，这让我有些不舒服。”

为了进一步讲清区别，李飞飞拿自己的厨艺“开涮”。

她解释道，“第一次煎蛋卷全糊，第二次好一点，做到第十次，能做出自己勉强咽下的东西了，这是自我改进。”

“但递归自我改进涉及大脑。在学习做煎蛋卷的过程中，我的大脑得发生某种变化，神经连接需要调整，让我有一个更好的系统来完成这件事。如果讨论硬件改进，也许我还能长出第六根手指。”李飞飞说。

两人最后还说到了同一件事：人类某种程度上也具备RSI能力，因为人是懂得“学习如何学习”的——理解自己怎样接收知识和信息最有效。

RSI加速AI进化走向失控？

对谈中，Jeff Dean被问到，“RSI是不是就像一个能一直加速AI进化的系统，最终走向失控？”

他表示，“有很多说法认为RSI很可怕，但如果把它当成一个运行中的工程系统来理解，就会少一些恐惧，也更容易理解它。”

在他看来，RSI确实会重塑工作流，尤其是科研领域，但目前不存在外界热议的“无限加速”“智能爆炸”的可能。

“RSI本质是压缩漫长的等待周期。以往研究者提交实验，往往要等到深夜甚至次日才能拿到结果，再人工判断、设计下一轮方案。而自动化可以实时读取实验反馈，快速规划后续测试，提升效率。”Jeff Dean说。

“但它始终受物理与工程条件约束。算力供给、模型训练、数据存储，每一环都有客观成本，不可能无限制提速，这和很多人想象得不一样。”Jeff Dean指出。

对话顺势延伸到近期学界热议的AI与科研，李飞飞也提到了此前和陶哲轩围绕“数学2.0”的交流。

她提到陶哲轩的观察：当下AI可以完成复杂命题的形式化证明，但也有一些问题仍在AI能力范围之外，尤其是尚无解法、缺少数据的问题。

Jeff Dean表示，AI可以产出数百页可校验的Lean 代码，验证结论真伪。但很多证明冗长晦涩，缺少数学家看重的“优雅”。机器能够给出答案，却未必能提炼出可迁移、能启发后续研究的新方法。

对此李飞飞抛出一个疑问：AI是否只擅长实验验证，但做不好理论推导？

Jeff Dean摆手称，“知道某件事可以做到，本身也很重要。如果知道一个问题可解，人们会更努力，或许能找到另一种更优雅的解法。”

对谈快结束时，李飞飞搞了个突击测验，问2017年6月12日是什么日子，不许用AI***。

Jeff Dean答出，“那是Transformer论文发到arXiv的日子。”

接着他承认，确实曾在一些技术路径上预测有错，比如没料到编程能力成了模型解决各种问题的关键，而Gemini早期并没把它放在最中心。

全场最后的问题，落在AI带来的社会影响上，包括就业变化、心理焦虑，以及关于人类灭绝等，Jeff Dean被问到最担心什么？

他回答，过去的一些技术革命，主要深入影响五个或十个领域。AI同时影响的领域更多，所以它会让人兴奋、忧虑，也会带来恐惧。

“我最关心的是，怎样尽可能实现AI在不同领域的益处，同时减少它可能造成的负面影响。例如，人们的工作受到影响后，需要有办法适应新的需求，继续获得有报酬的工作，过上富足的生活。这是一个涉及很多方面的问题，需要很多人一起解决。”Jeff Dean说。

谈到给年轻人的建议，Jeff Dean坦言面对快速变化的未来，规划确实很难，也很理解焦虑。眼下能做的是，了解正在出现、或者很快就会出现的新技术，学会把它们用于自己最有热情的事情。返回搜狐，查看更多