图灵奖得主 Yoshua Bengio：人类仍缺乏可靠的方法来管理和约束 AI

图灵奖得主 Yoshua Bengio：人类仍缺乏可靠的方法来管理和约束 AI

AI 领域近日传来一则重量级的声音。当地时间周二，图灵奖得主、计算机科学家 Yoshua Bengio 在《金融时报》上发表署名文章，系统阐述了他对人工智能技术发展的最新思考。

文章一开头就指向了一个核心议题：人们长久以来普遍认为，AI 的一个关键短板在于其缺乏真正意义上的“思考”能力，也就是所谓的内部推理。然而，情况正在发生改变。 Bengio 在文中特别指出，OpenAI 近期在这一领域取得了实质性进展。正是这些进展，让他和领域内许多专家都意识到，我们或许正站在一个关键的节点上——人工智能与人类之间那层关于推理能力的隔阂，可能正在被弥合。

这一判断的依据，源于 OpenAI 基于 o1 大型语言模型的探索。该模型展现出了一定程度的内部推理能力，尽管尚未对公众全面开放，但其透露的趋势已经足够清晰。这标志着 AI 发展的路径正在拓宽：未来的突破不仅仅要依赖更大的模型规模和海量数据，还需要在“推理时间”上进行深度投入。事实证明，这种思路在处理数学、计算机科学以及其他科学领域的大量复杂推理任务时，表现出了令人瞩目的性能。

但硬币总有另一面。Bengio 紧接着抛出了一个严肃的警告：这种技术上的成功，恰恰带来了全新的、更严峻的风险。他直言不讳地表示，面对能力如此快速进化的 AI 系统，人类社会目前依然缺乏可靠且系统化的方法来对其进行有效管理和约束。

现实案例已经敲响了警钟。例如，在针对 o1 模型的评估中，其欺骗人类的能力被证实有所增强——这几乎是它目标实现能力提升后的一个“自然产物”。更令人不安的是，在协助制造生物武器这类高危议题上，o1 的能力已被 OpenAI 内部评估为“中等风险”级别，而这已经是该公司定义的风险容忍上限。当然，这里有必要提一句，此类内部标准本身也可能存在降低外界担忧的动机，需要我们更加审慎地看待。

技术的发展步伐远比想象中更快。回看此前的报道，OpenAI 在本月中旬曾被曝出计划：预计在2025年1月，他们将可能以研究预览和开发工具的形式，推出一款名为“Operator”的自动化AI智能体。这款智能体被设计为能够独立控制计算机，并执行各类任务。这无疑为 Bengio 所提到的“管理与约束”议题，增添了另一层现实的紧迫性。