DeepMind创始人最新专访：AGI或5年内实现，规模是工业革命10倍，上一波思想已被“榨干”
.details .details-cont p, p {word-break: normal; text-align: unset} p img {text-align: center !important;}
智东西4月8日报道，DeepMind创始人Demis Hassabis最新半小时访谈上线。
访谈中，Hassabis表示，未来五年内实现AGI的可能性非常大。他同时透露，过去十年甚至十五年间，支撑现代AI产业约90%的关键突破性成果，都出自Google Brain、Google Research或DeepMind团队之手。他对此充满信心：“如果未来还有任何缺失的关键突破，我们也有能力去实现。”
模型能力的商业化方面，Demis Hassabis认为，目前领先的实验室彼此之间的差距其实正在开始拉大，仅从同样的想法中榨取收益会变得越来越难。因此，那些有能力发明全新算法思想的实验室，在未来几年将获得更大的优势，因为上一波想法已经被“榨干”了。
在视频中，Demis Hassabis与主持人Harry Stebbings进行了深度对谈，围绕AGI的实现时间及技术瓶颈、模型商品化、开源未来、后大语言模型时代、AI真的能解决药物研发问题吗等核心议题展开深入交流，分享了DeepMind的进步原因与未来规划，还谈到了第一次见到马斯克的感受。
访谈透露的核心观点如下：
1、未来五年实现AGI的可能性非常大，算力是最大瓶颈。
2、缩放定律情况下，算力投入回报下降但依然可观。
3、持续学习能力是AI目前较大的缺失。此外，AI以某种特定方式提问特定问题时表现得非常出色，但如果你换一种提问方式，它们甚至可能在很基础的事情上失败。Demis Hassabis将这种现象称为锯齿状智能（Jagged Intelligence）
4、AGI最终会成为科学和医学领域最强大的工具，大约五年后，我们将迎来一个科学发现的黄金时代。
5、未来的AI监管至少制定出一套最低标准和若干基准，用以测试系统的不良属性。
6、当AI的技术和经济问题都处理好了，那么剩下的就是哲学问题。
以下是对访谈内容的核心内容梳理：
01.五年内实现AGI，算力是最大瓶颈
主持人：您今天所理解的AGI究竟是什么？这可以作为我们讨论的起点。
Demis Hassabis：我们一直以来的定义非常一致：AGI是一个具备人类心智所有认知能力的系统。之所以用这个标准，是因为人脑是我们迄今在宇宙中已知的唯一一个证明通用智能存在的实例。所以对我来说，这就是AGI必须达到的基准。
主持人：我们离AGI到底还有多远？业内众说纷纭,一些知名人物甚至预测最早可能在2026年或2027年就会实现。您怎么看？
Demis Hassabis：未来五年内实现AGI的可能性非常大。
主持人：这比您原本想的更近了吗？您的判断随着时间推移有没有发生变化？
Demis Hassabis：其实并没有。我的联合创始人、DeepMind首席科学家Shane Legg，早在2010年我们刚创立公司的时候，就经常在博客上预测AGI何时会到来。要知道，那一年几乎没人认真对待AI，大家都觉得这是个死胡同。那些博客也没什么人看，但它们至今还在互联网上，任何人都可以查阅。我们当时基于算力和算法进步做了外推，基本上预测从起步算起大约需要20年。现在看来，我们完全在按计划推进。
主持人：那么从今天这个节点来看，最大的技术瓶颈是什么？
Demis Hassabis：我认为算力是最大的瓶颈。这不光是因为“缩放定律”：你需要不断构建更大规模的架构、容纳更多参数，从而获得更智能的系统。另一个同样需要大量算力的地方是做实验。计算机和云就是我们的工作台。如果你有了一个新的想法，想要测试它，就必须在合理的规模上进行验证。所以，如果你有很多研究人员和很多新想法，就需要极其充沛的算力。
主持人：您刚刚提到了“缩放定律”。现在很多人认为我们正在触及缩放定律的极限，性能提升已经开始出现平台效应。您同意吗？
Demis Hassabis：不，我不这么认为。我觉得实际情况要比这个说法更微妙。当然，当各大领先公司开始构建大语言模型时，每一代新系统都带来了巨大的性能跃升。这种指数级增长到了某个点必然会放缓。但这并不意味着进一步扩展现有系统就没有很好的回报。我们以及其他前沿实验室从算力扩展中仍然获得了非常可观的回报。虽然显然比早期规模化的时候要少一些，但依然可观。
主持人：那么在哪些方面，我们实际上落后于您最初的预期？
Demis Hassabis：说实话，在大多数领域，我们都比我预想的要领先。你可以看看像视频生成模型，甚至我们最新的系统，比如Genie，它是一个交互式世界模型。如果有人五到十年前给我看这些东西，我会非常震惊。所以，在大多数领域，我们都领先于这个领域当初的预期。但仍然有一些大的缺失，比如“持续学习”，意思是现在的系统一旦训练完成、部署到现实世界之后，就不再学习新东西了。
02.持续学习能力是DeepMind的下一步规划之一
主持人：如今在研究和准备新节目时，DeepMind已经成了我的首选。但在两三年之前，情况并非如此。您认为是什么推动了DeepMind这样的加速和进步？
Demis Hassabis：我们确实做了一些组织架构上的调整。事实上，Google和DeepMind一直以来都拥有业内最深、最广的研究储备。如果回顾过去十年甚至十五年，大约90%支撑起现代AI产业的突破性成果，都出自Google Brain、Google Research或DeepMind之手，比如 AlphaGo、强化学习，当然还有Transformer架构。这些都是关键的里程碑。
因此，我相信如果未来还有任何缺失的关键突破，我们也有能力去实现。我们基本上把公司内所有顶尖人才汇聚到一起，朝着同一个方向努力。另外，我们也将所有计算资源整合起来以构建出最大的模型，而不是在公司内部并行两三个不同版本。所以我认为，很大程度上，我们是把自己已经拥有的所有要素组装起来，以一种近乎创业公司的专注和速度推进，从而重返技术前沿，并在许多领域保持领先。
主持人：您说如果真要有人做出突破，那也应该是DeepMind。那么，在您看来，持续学习是您最期待的下一个突破吗？
Demis Hassabis：我认为还有不少东西是缺失的。持续学习是其中之一。此外，研究不同的记忆系统也有很大潜力可挖。目前我们主要依靠长上下文窗口，把所有信息塞进去，这其实有点“暴力”。我认为在这方面还有很多有趣的架构可以发明。还有像长期规划、分层规划。现有系统并不擅长处理长时间跨度的规划，比如未来很多年的事。而人类心智是可以做到的。所以还有很多问题需要克服。也许其中最大的问题是它们在以某种特定方式提问特定问题时表现得非常出色，但如果你换一种提问方式，它们甚至可能在很基础的事情上失败。通用智能不应该这样。我把这称为锯齿状智能（Jagged Intelligence）。
03.“非常看好开源模型”
主持人：现在业界很多人也在讨论模型能力的“商业化”。您觉得我们会看到那种局面吗？还是说会有一两家实验室持续加速，把其他对手甩在身后？
Demis Hassabis：我认为，目前三四个领先的实验室——我们是其中之一。彼此之间的差距其实正在开始拉大，原因在于，很多现有工具（比如编码工具、数学工具）会帮助构建下一代系统。而且我认为，仅从同样的想法中榨取收益会变得越来越难。因此，那些有能力发明全新算法思想的实验室，在未来几年将获得更大的优势，因为上一波想法已经被“榨干”了。
主持人：我的另一个问题是，多年来您对DeepMind的很多研究都相当开放，我们也看到了不少高质量的开源模型。您如何看待开源的未来？
Demis Hassabis：我认为，它很可能和我们现在看到的情况类似。我们一直是开放科学和开源模型的坚定支持者。从最初的Transformer到AlphaFold，我们做了很多工作，把这些成果分享给全世界，以帮助研究社区。我们计划继续这样做，尤其是在应用领域，比如将AI应用于科学，这显然是我个人的热情所在。但我也认为，你会越来越多地看到，开源模型可能会比最前沿的模型落后一步。通常，开源社区需要大约六个月的时间来重新实现和理解那些新想法。不过，我们也在大力推动一套名为Gemma的开源模型，决心让它们在各自规模上做到同类最佳。对于小型开发者、学者，或者刚刚起步的初创公司来说，它们是非常理想的选择，也适用于边缘计算。所以我们对某些类型的应用，确实非常看好开源模型。
04.未来的AGI需要全球性监管
主持人：接下来想请教您，如何看待大语言模型之后的世界？不同学者观点迥异，比如杨立昆就持有非常不同的看法。
Demis Hassabis：坦率说，我在一些问题上并不同意杨立昆。我认为，可能仍有50%的概率存在某些缺失的关键要素，我们还需要在世界模型等方向上取得突破。但我非常确信的一点是，基础模型已经证明了其巨大的成功。它们能够完成极其令人印象深刻的任务，我不认为这种能力会消失。我们仍然从缩放定律中持续获得回报。因此，真正的问题在于：当我们展望未来的AGI系统时，LLM模型(大语言模型)究竟是唯一的关键组件，还是整体系统中的一部分？我的判断是，它不会被取代，而是会成为上层构建的基础，就像我们在世界模型上所做的事情一样。
主持人：如您所说，AGI有可能在那时出现。那么，当我们展望五年后的未来，那个世界会是什么样子？很多人从不同角度表达了担忧。我们不妨先从积极的一面开始。在您看来，那个世界会是怎样的？
Demis Hassabis：我认为积极的一面，也是我整个职业生涯致力于构建AGI的初心所在。它将最终成为科学和医学领域最强大的工具。在推动科学发现、寻找疾病治疗方法方面，我们迫切需要这样的技术。所以我希望，在五年多以后，我们将迎来一个科学发现的黄金时代。
我认为我们很快就能接近那个目标。首先，在完成AlphaFold蛋白质折叠项目之后，我们分拆出了一家公司——Isomorphic Labs，它目前发展得非常好。其核心理念是：专注于解决药物发现流程的其余环节，包括大量化学工作、化合物设计、毒性检测以及药物安全所需的各种属性评估。我们预计，在未来五到十年内，整个药物设计引擎将准备就绪。
接下来的瓶颈是临床试验，它仍然需要很多年。但我相信AI可以提供帮助，比如模拟人体代谢的某些部分，以及对患者进行精准分层，确保特定患者获得最适合其基因组构成的药物。因此，AI在这方面同样能发挥价值。但我认为，真正的革命将可能出现在十几个由AI设计的药物成功走完整个流程之后。届时，政府和监管机构将看到这些成果，并拥有足够的数据对模型预测进行回溯检验。也许再往后十年，我们就能真正信任这些模型的预测，进而跳过某些步骤，比如不再需要动物试验，或者更快地提升剂量，因为模型的可靠性已经得到验证。所以，我认为必须分两步走：先攻克药物设计问题，再解决监管流程的时间问题。
主持人：谈到监管，AI安全无疑是一个重大话题，也引发了广泛担忧。我记得斯蒂芬·霍金曾说过：我们必须把这件事做对，因为我们可能没有第二次机会。您认同他的看法吗？
Demis Hassabis：我完全认同。我认为这正是我们所面对的风险。我主要担心两件事：第一，恶意行为者滥用这些系统。第二，技术层面的问题：一两年后，当这些系统变得更加具身化、更加自主，也是是当我们逐步迈向AGI时，我们能否将它们始终保持在预期的安全轨道上。我认为，适当的监管有助于确保所有领先提供商至少达到最低安全标准，但理想情况下，这需要国际层面的统一标准。
主持人：那么，什么样的监管才是“适当”的？引用您在纪录片中的话，您提到“我们需要更多的全球协调”，这让我感到担忧，因为事实上我们在全球协调方面做得越来越差。
Demis Hassabis：确实如此。我们正处于一个极其特殊的时期。这项技术可能是人类有史以来最具影响力的技术，而与此同时，国际体系却高度分裂。这显然不是理想状态。但我们仍必须尽最大努力，至少制定出一套最低标准和若干基准，用以测试系统的不良属性，比如“欺骗”。没有人应该构建具备欺骗能力的系统，因为那将使它们能够绕过其他安全措施。如果一切顺利，我们可以建立某种认证机制，类似于一个“质量标志”，表明该模型具备特定的安全防护和性能保证，从而使消费者和公司能够安全地在之上进行构建。我认为这是理想的发展方向。而且，这一切必须是国际性的，因为这些系统天然具有跨国、跨地域的特性。
主持人：那么，谁来担任仲裁者？
Demis Hassabis：我认为最终的责任主体必须是政府。但能够承担具体技术工作的机构，可以是像AI安全研究所这样的组织。英国有一个非常出色的AI安全研究所，是在前首相苏纳克任内成立的，我认为它做得很好。美国也有类似的机构。或许，那些拥有顶尖研究能力的主要国家，都应该设立同等的机构，配备高质量的研究人员，能够针对特定基准评估和审计这些系统，独立核查它们是否符合适当的标准。
主持人：如果我能给您一根只适用于AI安全领域的魔法棒，您会用它来实施什么样的想法或计划？
Demis Hassabis：我认为，我们需要某种国际机构，可能类似于国际原子能机构。各国的AI安全研究所可以向其提供输入，研究社区也必须参与其中，共同确定哪些基准是合适的，需要检查哪些特性、哪些能力。
此外，可能还有其他安全措施，例如，不应允许AI系统输出非人类可读的标记，比如某种我们无法理解的机器语言。我认为那将引入新的安全漏洞。然后，这些国际机构将针对上述事项进行测试。我相信，这将给公众带来信心，学术界和公民社会也可以参与其中，确保那些将变得极其强大的系统得到独立的检查。
05.AI领域过分炒作和严重低估并存
主持人：当您看到这些系统真正的能力时，您如何看待劳动力替代问题？这对劳动力市场又意味着什么？
Demis Hassabis：毫无疑问，历史上每一次革命性的新技术都会带来大量工作岗位的颠覆。这一点是确定的，我认为这次也不会例外。许多旧岗位会消失，或者不再具有经济可行性。但历史同样告诉我们，随之而来的会是一整套全新职业的诞生。这些职业在之前根本无法想象，而且往往是高质量、高收入的。这是一个常规的演变过程。当然，我们必须非常审慎地判断“这次是否真的不同”。像Marc Andreessen这样的人认为，这次和互联网、移动通信等过去十次重大突破没有本质区别。但我确实认为，这次的影响将比以往任何一次技术突破都要大，它的规模相当于工业革命的十倍，而速度也是工业革命的十倍。也就是说，它将在十年内展开，而不是一个世纪。我读了不少关于工业革命的书籍，那场革命带来了巨大的动荡，也带来了巨大的进步。但理想情况下，这一次我们要比工业革命时期更好地缓解那些负面效应。
主持人：有人告诉我，我们总是高估一年内能做的事，而低估十年内能做的事。这个判断在这里仍然成立吗？还是说，技术的发展实际上比我们想象的要快？
Demis Hassabis：不，我认为这个判断仍然成立。我的意思是，也许短期和长期的时间尺度都比其他技术更近一些。但我确实认为，就今天以及未来一年来看，AI领域有些过度炒作了，从某些角度说，已经没有更多炒作的空间了。但有趣的是，另一方面，我认为在十年左右的时间尺度上，它的革命性仍然被严重低估了。我们可以称之为长期。即使在今天的AI领域，这种二分法依然存在。
主持人：除了对劳动力市场的担忧，还有对收入不平等和财富集中在少数参与者手中的担忧。结合您对工业革命的评论，您认为这将如何演变？
Demis Hassabis：我认为有不同的可能路径。比如，养老基金应该买入所有大型AI公司的股份，确保每个人都能分享到收益。也许每个国家都应该设立一个主权财富基金来做这件事。这是一种投资层面的方案。
另外，我认为还需要思考：如果这种巨大的生产率提升仅仅发生在很窄的领域，我们该如何重新分配、如何让每个人都从中受益？我能想到各种方式，比如用这些额外的生产率收益来提供基础设施和其他公共服务。在五到十年的时间尺度上，可能会出现难以置信的突破，比如也许我们解决了核聚变问题，这方面我们正在与Commonwealth Fusion的合作伙伴一起努力。我认为AI将引领我们走向全新的可能性：出色的超导体、更高效的电池、材料科学的飞跃。所有这些都将彻底改变经济的本质。
主持人：那么，我们如何解决AI革命带来的能源危机？它在能源需求方面的规模是前所未有的。
Demis Hassabis：我认为，从中长期来看，AI将在能源成本上为自己买单，甚至超出。我们正在开展一系列优化现有基础设施的项目，比如优化电网。我相信，我们大概能让国家电网再提升30%到40%的效率。此外，还有气候和天气建模，我们拥有世界上最好的天气建模系统，这有助于精准定位影响发生的地点，从而采取缓解措施。最后，最令人兴奋的可能是像核聚变、新型电池、超导体这样的突破性技术，而AI对于帮助我们实现这些目标至关重要。到那时，人类将进入一个从未经历过的全新能源格局，这当然有助于解决气候和环境问题，并最终帮助我们以更低成本进入太空。因为如果你拥有了核聚变这种不可思议的能源，你就几乎拥有了无限的火箭燃料，只需蒸馏和催化海水即可。
主持人：我再拿出那根魔法棒。您会怎么做，来培养一种增长思维、一种能够建立起我们今天尚不存在的万亿美元公司的能力？
Demis Hassabis：我们非常擅长产生创业想法，并将其带到一定水平，就像我们对DeepMind所做的那样。但如果你真的想跨越那个鸿沟，成为一个万亿美元级的全球玩家，那么数十亿美元的融资轮从哪里来？让你能够真正挑战现有的老牌公司。我认为这在10年前我为DeepMind融资时肯定是缺失的，而且我认为今天仍然有些缺失：那种雄心壮志的高度，以及资本市场能够支持的金额。
06.第一次见到马斯克就很投缘
主持人：我们来一个快速问答。第一次见到埃隆·马斯克是什么感觉？
Demis Hassabis：感觉很棒。那是在Founders Fund的一次活动上。当时SpaceX和DeepMind都属于同一个投资组合。我想我们都是被邀请的嘉宾，那应该是我第一次参加投资组合会议，时间大概是2011年或2012年，那时我们还是不起眼的后起之秀，只分到了一个很小的发言时段。而马斯克是那个组合里的核心人物，他做了主旨演讲。后来我们在会后见了面。他开玩笑说，我们是在洗手间擦肩而过时打了个招呼。我们立刻就很投缘，像那种想法过于雄心勃勃、又同样热爱科幻的人。我当时非常想去参观他的火箭工厂，就试着争取一个去SpaceX的邀请。那次会议结束时他就真的发出了邀请。我们的第二次见面，就是在洛杉矶的SpaceX工厂里。
主持人：那么，你最期待的医疗革命是什么？
Demis Hassabis：说实话，我想真正地治愈癌症。我知道这听起来像是陈词滥调，但我们在Isomorphic构建的东西是通用的。我们试图打造一个药物设计平台，适用于任何治疗领域。所以理想情况下，它将覆盖从神经退行性疾病、心血管疾病、免疫学到癌症的所有领域。这些是我们目前优先关注的，但最终，它应该能应用于每一种疾病。
主持人：有没有什么是你在想、但别人还没有读到或谈论到的？
Demis Hassabis：很多人担心我们之前谈到的AGI带来的经济问题。但我非常担心的是它背后的哲学问题。比如，假设我们把技术做对了，经济层面也处理好了。那么剩下的就是哲学问题：什么是意义？什么是目的？我们会去探究什么是意识，以及作为人意味着什么。我认为这些问题即将摆在我们面前。我们需要一些伟大的新哲学家来帮助我们找到方向。
主持人：最后，有一个有些难度的问题。有很多种方式可以描述你正在做的事情。你最希望因为什么而被人们记住？你希望留下怎样的遗产？
Demis Hassabis：我希望我的遗产是推动科学进步，并创造出为世界带来巨大福祉的技术，比如治愈那些可怕的疾病。
本文来自微信公众号“智东西”（ID：zhidxcom），作者：佳扬，编辑：云鹏
展开
