大会首日的播客对话环节,中国工程院院士、阿里云创始人王坚与智源研究院理事长黄铁军,展开了一场关于AI与人类未来的深度对话。
王坚的观点令人印象深刻:“我坚定不相信AI会替代人类。狗的鼻子比人灵敏很多,但我们从来不觉得这对人有什么威胁。”他认为,今天讨论大模型时提到的“幻觉”等概念,原本都是用来形容人的。“我是一个无药可救的乐观主义者,我一直相信人类自己创造的问题,人类一定会解决。”
谈及中美AI的差距,王坚的判断是:“中国和美国在这个领域看到的是同一片大海。如果六七年以前,我担心的就是我们看到的是个游泳池,别人看到的是大海。尽管远处看都是蓝蓝的,但走近看才知道不是同一个天地。那基本上我今天还是可以说,我们大家看到的是同一片天地。”这个判断背后,是王坚对“框架”的深刻思考。他透露,自己思考AI问题始终放在动物智能、人类智能和机器智能的框架下,“你要给自己一个可以超出现有框架的思考框架”。
黄铁军则用“父母与孩子”来比喻人与AI的共存关系:“AI是孩子,有冲突但不可分离。AI可以去宇宙之外,我们很难做到,我们通过智能这个桥梁连接。”他特别强调,智能革命的核心在于用AI替代机械的、重复的脑力劳动,而“AI制造AI”一定是技术发展到高级状态的标志。
两位图灵奖得主的演讲同样引发了全场热议。公钥密码学之父、2015年图灵奖得主Whitfield Diffie在题为“Security For AI Agents, Security Against AI Agents”的演讲中给出了一个惊人预测:“到2050年,机器智能将超越人类,成为世界运行的主宰。”但他强调,这并非一场人与机器的战争,而是一个简单的机制:“人们主动提出为我们做事,我们喜欢有人替我们做事,我们就说‘好,帮我们做’。到某个时候,我们会环顾四周,发现机器在做所有事情。”关于AI安全,Diffie批评了当前依赖反馈控制的方法效果不佳,主张形式化方法才是未来,即先明确形式化规范、再编写程序、最后数学证明程序符合规范。他乐观地认为,未来AI将成为完成这些证明的工具。
2024年新晋图灵奖得主、马萨诸塞大学阿默斯特分校荣誉退休教授Andrew Barto则强调,强化学习本质上是在解决控制、搜索与记忆之间的协同问题,而这恰恰也是未来智能体系统的重要基础。关于RL是否是通往AGI的道路,Barto认为RL具备其他学习形式没有的能力,但反之亦然——RL需要大量试错,它可能是AGI的必要组成部分,但绝非全部。针对“RL无法建立新能力、只会缩小行为分布”的质疑,他明确反驳:系统必须探索,这意味着尝试那些并非由已有行为暗示的动作。尤其在顺序决策中,即便单步后果已知,新的动作组合仍可能产生全新结果,因此RL确实能发现新行为。
对于博士生研究方向,他建议了两个前沿领域:一是多智能体RL,神经系统本身就是大量RL智能体的相互作用,该领域研究不足但极具价值;二是神经科学与RL的交叉,借助RL概念解析神经系统,可获得突破性认知。他同时警示了奖励信号设计的根本挑战:设定错误的目标函数会引发“反常实例化”,必须为RL智能体设置充分“护栏”并进行广泛实验验证。
国内外泰斗的同时亮相,凸显了智源大会在全球AI学术界的号召力,这正是中关村长期深耕基础研究的底气。如果说十年前中关村是中国互联网技术讨论的中心,那么今天,它正在成为全球AI前沿思想的重要交汇点。