菲尔兹奖得主邓煜在演讲中批 OpenAI 双标「蒸馏」，如何看待该观点？

以下为演讲全文： 最近一段时间对数学界来说是多事之秋。对于AI时代数学研究与数学家所扮演的角色，很多人都有不同看法。对我来说，也是借这个机会表达一下我个人的观点、对未来的期待。 我今天所讲的包含两个部分。 01 首先是关于10月6号某个AI公司公布的涉及300多个问题、700多篇文章的事情。一个月前，同一个公司也公布了千禧年问题中关于带外力项Navier-Stokes方程包裹体构造的证明。这些无疑在数学界产生了非常重大的影响，也可以说是最近一系列关于数学研究、数学家大讨论的起点。 这些文章，我大概看了其中几篇。按我的理解，这些工作相当一部分都是属于数学上非常重大的进展。这些工作中的大部分，可以说都是基于人类对于相关问题的已有深刻理解和技术。AI或者是巧妙地结合了人类不同方向、不同领域的技术，或者是在人类已有的思路、思想基础上进行创新，形成新的技术或者新的思路，从而解决问题。也有一部分工作是直接跟随人类已有思路。不止一个数学家提到，他们之前喂给AI模型的想法、思路，可能在几周之后就出现在这个AI公司的最新发布里面，基本上是极为相似的做法、极为相似的证明。 这里我们可以看到AI相对于人的优势： 一个是AI具有无限知识面。对人来说，时间精力总是有限，不可能对现代数学所有领域、所有技术都有深刻了解。但是AI通过学习或者是蒸馏人类网络上的所有数学文献，是能够做到这一点的。 另一方面，AI具有极低的尝试成本，或者说试错成本。对人来说，你尝试一条思路，做了几个月，发现不行，那么这几个月时间就白费了。但是对AI来说，如果有几千个、一万个agent合作，就可以非常高效地尝试各种不同思路，进行试错。在这方面，如果人要跟AI比速度，那肯定是没有任何希望的。 这里我们要坚持一点，在数学研究中也好，在任何事情中也好，人总是作为主体；AI是作为一个工具，是我们人利用来进行研究的工具。 所以在接下来的讨论中，这是一个非常基本的前提。我们始终要以人为本，利用AI作为工具来推进我们自己的研究，推进我们自己感兴趣的问题。 在这个假设下，人就起到一个把握方向的角色，可以用AI去进行许多的尝试、试错。比如说，我们有一个思路之后，要把这个思路形成具体的路线图。路线图中的每一步，都需要非常多的细节考虑。如果路线图行不通，某些步骤、某些节点需要进行微调，这些工作都可以让AI来做，包括具体技术细节。这是一方面。 另外一方面，我们知道AI可以通过结合不同领域的思路，不同领域的技术来形成新的想法，这些想法我们当然也可以学习的。就短期来看，我们会出现人和AI共同进化的状况。AI基于人已经有的对问题的理解，发展出新的技术、对问题新的理解，从而解决新的问题；我们也可以通过学习AI的证明，发展出属于我们人的新思路、新想法；再把这些交给AI，让AI再去学习，我们再向AI学习。这是一个互相学习、共同促进的过程。 所以，这些文章的出现本身，对于数学研究具有相当大的促进作用。我们可以看到AI对数学研究的价值，对于人类的作用。显然在数学研究中，我们没有任何理由去拒绝使用这样的工具，去推进我们人的研究。 但使用工具需要有一个正确的、合适的使用方式。 对于这一点，我就要提到10月6日公布的这些问题、这些文章。我认为，它们对数学有相当大的促进作用。但是，在整个事件过程中，AI公司扮演什么样的角色？他们的行为是否具有可以商榷之处，是否有更好的选择？我觉得这两点是要完全分开的。 关于AI公司的具体行为，我们可以有一个类比。 很多人会把AI模型当成一个虚拟的研究者，它通过学习网络上的文献，形成对问题的想法，进行自己的原创研究，得到相应的结果。按照这样一个标准来看的话，那么我们就得按照学术界标准。既然把它当成一个发表研究成果的研究者的话，就要按照学术界标准来进行评判。 在此评判之下，有几个标准。首先，作为一个研究者，如果你得到一个非常重大的结果，那么数学界会邀请你去进行各种各样的报告，由浅入深的各种报告。这些报告的主要目的，是解释你的证明怎么来的，背后的思路是什么。AI当然不可能去做报告，它可以做解释。对AI来说，证明背后的思路，很明显是AI的思维链。那么，如果AI证明了一个非常重大的问题，一个非常合理的要求，是公布AI的思维链。但很明显，这家AI公司并不愿意这样做。在他们公布的所有证明中，只有极少数真正公布了思维链，大多数情况下，他们都以所谓的防蒸馏为借口，拒绝公布思维链及相关的信息。 我觉得对于人来说，这是一个最简单、最明确的事情：怎么想到这样一个思路的。如果是人得到这样的结果，大家一定会问，你是怎么得到这个思路，你经历了哪些尝试。AI公司拒绝公布，很明显是不符合学术界的惯例的。 我觉得，在任何意义上，这都不能说是一个特别合理的理由。 除此之外，如果是人类研究者，如果用到了其他人的思路，特别是整个证明都是follow其他人思路的情况下，当然自己有责任把这件事情指出来，有责任说明基于或者完全依赖于其他人的思路；即使是用到其他人的一些思路，你也要说明。 同样，在这家AI公司公布的文章里，很多情况下我没有看到这样的说明，甚至有的证明是直接沿用人类已有思路，也没有进行相应的说明。 最后，对于人类研究者，在发表之前，首先要保证证明的正确性。这一点对AI公司来说，完全可以通过形式化的手段，在保证正确性的情况下再进行发布。当然他们也没有这么做，而是在没有任何正确性保证的情况下直接发布。事实上，后来发现了有若干篇文章——多于一篇文章是存在错误的，甚至后来也撤回了。 从这里我们可以看出，至少在10月6号这件具体事情上，这家AI公司的行为存在可以商榷之处。声动丨菲尔兹奖得主邓煜：AI时代的数学研究，人永远是主体

前往原平台核验详情 ↗