Axi's Blog
The Dark Side of the AIBlur image

正文#

在 ICLR 投稿之后,我因为长久以来的积劳成疾大病了一场,同时带来的问题也有心理上的低迷,以及对于科研激情的丧失。这其实并不是一个短期导致的问题,也不是出于某种来自科研长久以来的挫折。在和好友交流了之后,我也感觉是时候再次振作起来,所以决定写下来我的所思所想,然后再次出发。

事实其实是反直觉的,按理来说看似顺利的我不应该如此患得患失。在去年的 CVPR 中稿之后,我一直在 GenManip 的基础上进行进一步的开发以及改进,解决数据问题是当下 VLA 最为重要的事情,而我们搭建了一个 Scalable 的框架。我也有着若干的合作,可以确保持续的论文产出;当然,也有一些内容可以沿着我为自己规划的主线继续探索。

然而遗憾的是,无论一切如何顺利地发展,问题依然在那里。任何一个深谙深度学习发展历史的人都会清晰地意识到,人工智能的黄金时代已经过去了,不再会有在这条漫长道路上的 milestone,不再会有下一个 Kaiming He 式的人物出现,即使是对于领域内具有短期卓越成果的论文,也仅仅是漫长线条上的一个点,而无数个这样的点组成的路线则通向了低垂果实之后的黑暗。

时间回到半年前,大家在积极地讨论 o-series,那时候 Deepseek-R1 横空出世,将 RL 这一经久不衰的命题再次放到了聚光灯下。OpenAI 的姚顺雨写了一篇 Blog,叫做 The Second Half,AI 的下半场,RL finally generalize,关键在于如何定义问题。不过事实上对于一切来说,或许下半场已经提前结束了,其实早已经进入了比赛的垃圾时间。

一些读者可能会赞同,绝大多数的架构与方法只是在 Scaling Law 的曲线上做着修补。一些结构会带来少数的新 feature,带来一些领域中的提升,但是同样的问题是显著的。在 Transformer 出现并且发展之后,人工智能领域最核心的思想之一就已经出现,即 Fusion。在什么表征空间中,以何种结构融合哪些信息,并进一步验证这种融合方式是否能够被有效 Scaling,这就是当下的主基调。架构的改变可以带来效率的提升,性能的量变,但是本质不变,任何的改动似乎都仅仅是这个领域中的小小增量点。

同样存在问题的是那些给出理论分析的论文,局限在高校的环境中给出即使已经尽力的小规模实验。这似乎是一个遥远且漫长的问题,当下我们建成的大厦由 70% 的数据以及 29% 的 Infrastructure 组成,而剩下的那些留给其他内容的 1% 也似乎并非不可或缺的。这是一个工业化的时代,我们依靠团队作战,依靠算力的迭代,依靠数据的积累,唯独没有那些符合传统研究者的位置。

平庸的论文提出方法,优秀的论文提出问题,这是当下科研的常态,也是每一个 Senior 的共识。我们只需要敏锐察觉到问题所在,并且尝试用一个简单且有效的方法解决掉,就可以算是大功一件了。然而另一个令人沮丧的共识是,假如说你对于自己熟悉的领域,在缜密的思考之后罗列了那些存在的关键问题,你会惊讶的发现,大多数的论文,那些看上去还不错、没有通过对于方法进行排列组合进行 A+B 的论文,最后开始对于问题进行排列组合。

于是我们应该从哪里找到出路,那些最为前沿的阵线,那么就去业界看看吧。不过,同样唏嘘的是,大多数时候,业界的更多算力的迭代之后也只是改变了领域内不同问题的权重。我们需要优先关注某些问题,但是问题的总数没有变多,也没有变少。因此我们只需要等待,等待算力的提升以及数据的增加,等待规模化的流程遍历全部的问题,然后答案留下,假如没有新的关键问题出现,那么一切的结束其实只是时间问题。你参与其中,或许稍有加速,但无论你是否在,结果都已经注定。

最近一直在重温 The Bitter Lesson,这篇 AI 时代可以说最为具有代表性的博客真的是常看常新,这些想法与我的迷茫也有些不谋而合。

The eventual success is tinged with bitterness, and often incompletely digested, because it is success over a favored, human-centric approach.

在我们再次探索很久之后,回看这些,不免发现走出的又是弯路。人工智能发展的成功确实是苦涩的,仅存的只是摩尔定律带领着领域前进,而非方法,这些来自算力的洪流终究会淹没一切。

比赛其实已经进入了垃圾时间。

结语#

大多数参与到 AI 科研中的 Researcher,一定在某个阶段会认为自己的存在是可以改变一些事情的,但是当问题的解决变得清晰起来,解决问题的人倒是开始变得迷茫了。或许就像是 Pink Floyd 在他们的专辑《The Dark Side of the Moon》中唱到的那样。

“There is no dark side of the moon really. Matter of fact it’s all dark.”

不过还是姑且 Dive into the dark,然后享受这个过程吧。

The Dark Side of the AI
https://axi404.github.io/en/blog/dark-side-of-ai
Author阿汐
Published atOctober 23, 2025
Comment seems to stuck. Try to refresh?✨