

正文#
在 ICLR 投稿之后,我因为长久以来的积劳成疾大病了一场,同时带来的问题也有心理上的低迷,以及对于科研激情的丧失。这其实并不是一个短期导致的问题,也不是出于某种来自科研长久以来的挫折。在和好友交流了之后,我也感觉是时候再次振作起来,所以决定写下来我的所思所想,然后再次出发。
事实其实是反直觉的,按理来说看似顺利的我不应该如此患得患失。在去年的 CVPR 中稿之后,我一直在 GenManip 的基础上进行进一步的开发以及改进,解决数据问题是当下 VLA 最为重要的事情,而我们搭建了一个 Scalable 的框架。我也有着若干的合作,可以确保持续的论文产出;当然,也有一些内容可以沿着我为自己规划的主线继续探索。
然而遗憾的是,无论一切如何顺利地发展,问题依然在那里。任何一个深谙深度学习发展历史的人都会清晰地意识到,人工智能的黄金时代已经过去了,不再会有在这条漫长道路上的 milestone,不再会有下一个 Kaiming He 式的人物出现,即使是对于领域内具有短期卓越成果的论文,也仅仅是漫长线条上的一个点,而无数个这样的点组成的路线则通向了低垂果实之后的黑暗。
时间回到半年前,大家在积极地讨论 o-series,那时候 Deepseek-R1 横空出世,将 RL 这一经久不衰的命题再次放到了聚光灯下。OpenAI 的姚顺雨写了一篇 Blog,叫做 The Second Half,AI 的下半场,RL finally generalize,关键在于如何定义问题。不过事实上对于一切来说,或许下半场已经提前结束了,其实早已经进入了比赛的垃圾时间。
一些读者可能会赞同,绝大多数的架构与方法只是在 Scaling Law 的曲线上做着修补。一些结构会带来少数的新 feature,带来一些领域中的提升,但是同样的问题是显著的。在 Transformer 出现并且发展之后,人工智能领域最核心的思想之一就已经出现,即 Fusion。在什么表征空间中,以何种结构融合哪些信息,并进一步验证这种融合方式是否能够被有效 Scaling,这就是当下的主基调。架构的改变可以带来效率的提升,性能的量变,但是本质不变,任何的改动似乎都仅仅是这个领域中的小小增量点。
同样存在问题的是那些给出理论分析的论文,局限在高校的环境中给出即使已经尽力的小规模实验。这似乎是一个遥远且漫长的问题,当下我们建成的大厦由 70% 的数据以及 29% 的 Infrastructure 组成,而剩下的那些留给其他内容的 1% 也似乎并非不可或缺的。这是一个工业化的时代,我们依靠团队作战,依靠算力的迭代,依靠数据的积累,唯独没有那些符合传统研究者的位置。
平庸的论文提出方法,优秀的论文提出问题,这是当下科研的常态,也是每一个 Senior 的共识。我们只需要敏锐察觉到问题所在,并且尝试用一个简单且有效的方法解决掉,就可以算是大功一件了。然而另一个令人沮丧的共识是,假如说你对于自己熟悉的领域,在缜密的思考之后罗列了那些存在的关键问题,你会惊讶的发现,大多数的论文,那些看上去还不错、没有通过对于方法进行排列组合进行 A+B 的论文,最后开始对于问题进行排列组合。
于是我们应该从哪里找到出路,那些最为前沿的阵线,那么就去业界看看吧。不过,同样唏嘘的是,大多数时候,业界的更多算力的迭代之后也只是改变了领域内不同问题的权重。我们需要优先关注某些问题,但是问题的总数没有变多,也没有变少。因此我们只需要等待,等待算力的提升以及数据的增加,等待规模化的流程遍历全部的问题,然后答案留下,假如没有新的关键问题出现,那么一切的结束其实只是时间问题。你参与其中,或许稍有加速,但无论你是否在,结果都已经注定。
最近一直在重温 The Bitter Lesson,这篇 AI 时代可以说最为具有代表性的博客真的是常看常新,这些想法与我的迷茫也有些不谋而合。
The eventual success is tinged with bitterness, and often incompletely digested, because it is success over a favored, human-centric approach.
在我们再次探索很久之后,回看这些,不免发现走出的又是弯路。人工智能发展的成功确实是苦涩的,仅存的只是摩尔定律带领着领域前进,而非方法,这些来自算力的洪流终究会淹没一切。
比赛其实已经进入了垃圾时间。
结语#
大多数参与到 AI 科研中的 Researcher,一定在某个阶段会认为自己的存在是可以改变一些事情的,但是当问题的解决变得清晰起来,解决问题的人倒是开始变得迷茫了。或许就像是 Pink Floyd 在他们的专辑《The Dark Side of the Moon》中唱到的那样。
“There is no dark side of the moon really. Matter of fact it’s all dark.”
不过还是姑且 Dive into the dark,然后享受这个过程吧。