DeepSeek陈德里AI论文评测:从6分到8分的进化之道

2026-05-31阅读 0热度 0
DeepSeek

DeepSeek研究员陈德里(Deli Chen)与AI协同完成的第二篇学术论文正式发布。本次研究聚焦于持续学习与自我迭代——在他看来,这是AI迈向通用人工智能(AGI)进程中不可或缺的一环。

由于arXiv平台禁止将AI列为作者,陈德里此番只能将实际承担论文约99%工作量的DeepSeek-V4-Pro(负责文字撰写)与GPT-Image-2(负责图像生成),从作者栏移至脚注加以说明。

DeepSeek陈德里AI论文第二弹:从6分到8分,DeliAutoResearch SKILL又进化了

在这篇论文中,陈德里提出一项关键判断:未来的AI系统不会长期停留在一组冻结参数的形态,而将逐步演变为能够持续学习、自主更新、自我迭代的智能体。

背后的逻辑非常直接:上下文管理与文档化记忆固然能在一定程度上帮助模型维持注意力、保留任务经验。然而,注意力窗口终究会被填满——此时就必须将知识与经验参数化,以降低认知负荷。

值得关注的是,这不仅是论文主题的纵深延伸,也是陈德里自主构建的科研智能体框架DeliAutoResearch SKILL本身的一次迭代实验。

DeepSeek陈德里AI论文第二弹:从6分到8分,DeliAutoResearch SKILL又进化了

据陈德里介绍,本轮模拟同行评审分数达到8分,相比上一篇论文的6分有明显跃升。更关键的是,在本文的生成过程中,模型首次尝试调用更高级的语言模型,自主设计并运行实验——这是此前版本尚不具备的能力。

系统进化程度更直观地体现在论文披露的生产数据对比中。陈德里在第二张图表中对比了两篇论文的生成过程:从第一篇到第二篇,随着SKILL本身不断迭代,交互轮数大幅下降,而总token消耗显著上升。这恰恰是一个极为积极的信号——它表明SKILL正在向更高自主性转变。

换言之,人工介入大幅减少,系统自主思考与执行的比重显著增加。对于一个自动科研工作流而言,这正是走向更高自主性的标志性变化。

DeepSeek陈德里AI论文第二弹:从6分到8分,DeliAutoResearch SKILL又进化了

陈德里表示,他非常期待在不久的将来,DeliAutoResearch SKILL能够真正产出大师级的学术写作。不过,他也坦言,在仔细阅读论文的一些关键部分后,仍能看到不少提升空间。

如果完全由自己亲手撰写,论文质量或许会更高,但产出速度也会急剧下降。由于当前的核心目标并非打磨单篇论文,而是持续迭代DeliAutoResearch SKILL本身,他选择保留这篇论文中略显粗糙的部分,将其作为系统继续进化的反馈样本。

DeepSeek陈德里AI论文第二弹:从6分到8分,DeliautoResearch SKILL又进化了

下面,我们来具体审视这篇论文的核心内容。

为何必须统一持续学习与自我改进?

论文指出,传统研究中,持续学习与自我改进常被当作两个独立方向,但它们面对的是同一个底层问题:模型如何在接收新信息或新目标后更新自身,同时不破坏已经掌握的能力?

持续学习关注模型如何顺序适应新任务或新数据;自我改进关注模型如何自主增强能力。但两者的技术难点高度重叠——都需要在分布变化下稳定优化,都需要保留已有表征,都需要处理探索与利用之间的权衡,也都需要在没有固定测试集的情况下评估进步。

因此,作者认为,下一代LLM训练管线必然会将外部数据流与模型自生成的训练信号结合起来,形成紧密耦合的反馈循环。这意味着,统一研究这两个方向并非权宜之计,而是势在必行。

核心贡献一:提出三轴统一分类框架

本文最主要的贡献之一,是提出了首个同时覆盖大语言模型持续学习与自我改进的分类框架,并将其组织在三个相互正交的维度上:

  • 更新什么:即被更新的内容是知识、技能、对齐能力还是推理能力;
  • 如何更新:即采用哪一类方法;
  • 何时更新:即更新发生在离线阶段、周期性阶段、在线阶段,还是由特定事件触发。

这一三轴框架能够对任何部署后的学习系统进行精确刻画,并揭示不同方法之间此前未被充分认识到的内在联系。

DeepSeek陈德里AI论文第二弹:从6分到8分,DeliAutoResearch SKILL又进化了

核心贡献二:系统分析五大方法类别

论文系统梳理了100多篇相关文献,并将其归纳为五类方法:基于正则化的持续学习、回放与经验管理、参数高效与模块化方法、自我改进与自博弈,以及在线自适应方法。针对每一类方法,论文均形式化描述了其核心机制,分析了理论性质,并比较了代表性方法的优劣。

核心贡献三:形式化刻画自我改进的收敛条件

论文对迭代式自我改进在什么条件下能够保证收敛而非发散进行了形式化分析,并将来自自博弈、迭代蒸馏、Constitutional AI等研究方向中分散的理论结果,统一到同一个框架之下。

论文认为,自我改进代表了一种范式转变:模型能力提升正从依赖人类监督,转向由模型自主驱动。所提及的方法覆盖了广泛范围——从训练阶段的自博弈(通过多轮迭代修改模型权重),到推理阶段的推理增强(提升单次预测质量),再到理论分析(划定自我改进的边界)。

这些方法的共同点在于,它们都需要某种grounding signal——即可靠的锚定信号。这个信号可以是验证器、一套宪法原则、人类偏好数据,也可以是问题本身的结构。没有这样的锚定信号,自我改进的循环最终必然退化。

自我改进的轨迹并不取决于生成机制有多复杂,而取决于评估信号的质量,以及它相对于模型自身的独立性。

DeepSeek陈德里AI论文第二弹:从6分到8分,DeliAutoResearch SKILL又进化了

核心贡献四:提出六大开放挑战

论文在末尾指出了生成式模型持续学习走向成熟过程中亟待解决的六个关键问题,并基于系统分析所揭示的研究空白,为每个问题给出了未来的研究方向。

大模型规模能否根治灾难性遗忘:更大的模型确实可能更不容易遗忘,但规模并非万能解药。随着任务持续增加,即使大模型也会遇到容量瓶颈、干扰问题和对齐漂移。未来需要研究的是,大模型规模如何影响稳定性—可塑性权衡,以及是否存在可预测的Scaling Law。

自我改进的理论极限:模型能否无限自我提升?何时收敛?何时崩塌?论文认为这是核心理论问题。尤其在缺少外部验证器的语言任务中,模型极易陷入自我确认——它会不断强化自己已相信的模式,而不一定更接近真实目标。

多模态持续学习:未来模型不只处理文本,还会处理图像、音频、视频和行动数据。多模态模型持续学习时,一个模态的更新可能影响另一个模态。例如,更新视觉生成能力可能影响语言理解;更新语言对齐也可能影响图像生成行为。如何跨模态保留能力,是未来研究中必须攻克的难题。

安全的持续对齐:模型持续学习时,安全边界也必须持续保持。问题在于,任何更新都可能削弱原有对齐能力。因此,论文认为,未来需要“可证明安全”的持续对齐机制:模型变得更强的同时,安全约束不能被遗忘或绕过。

部署时的“实时学习”:实时服务要求低延迟和高稳定性,而在线学习需要计算梯度、更新参数、验证质量、避免回归等,两者“天然冲突”。因此,真实部署中必须设计分层更新机制:哪些变化即时处理?哪些变化延迟批处理?哪些变化必须经过安全审查后才能进入参数?

与Agent框架结合:智能体会在长期任务中积累经验,例如工具调用结果、失败教训、用户偏好、环境反馈等。关键问题在于:何时将短期经验写入长期记忆?何时应当更新参数?哪些经验只是偶然事件,哪些经验代表稳定规律?

论文认为,未来需要层级记忆架构,让Agent同时拥有短期情节记忆和长期参数知识,也需要多智能体持续学习机制,让多个Agent共享并整合经验。

总结

论文的核心判断是:持续学习与自我改进正在走向融合。真正有前景的方向,是构建这样一种模型——它既能吸收外部世界的新知识,也能利用自我反思、自我验证和自我搜索来改进学习策略;既能变得更强,又能保持稳定与安全。

简而言之,不只是训练得更大,而是能否在不遗忘、不失控的前提下,持续学习、持续对齐、持续自我进化。

免责声明

本网站新闻资讯均来自公开渠道,力求准确但不保证绝对无误,内容观点仅代表作者本人,与本站无关。若涉及侵权,请联系我们处理。本站保留对声明的修改权,最终解释权归本站所有。

相关阅读

更多
欢迎回来 登录或注册后,可保存提示词和历史记录
登录后可同步收藏、历史记录和常用模板
注册即表示同意服务条款与隐私政策