OpenAI CEO中国首讲：十年内AI系统将颠覆世界，立即行动指南

2023年6月10日，OpenAI联合创始人山姆·阿尔特曼通过视频连线，在北京智源人工智能大会现场发表演讲。这是他首次直接面向中国产业界与学术界进行深度分享。

在演讲中，阿尔特曼援引中国《道德经》的哲学思想，强调人工智能安全治理需“千里之行，始于足下”。他明确指出，跨国协作与政策协调是应对全球性AI风险的基础。

主题演讲后，阿尔特曼与智源研究院理事长张宏江博士进行了一场闭门对话，深入探讨了AGI安全、技术路线与全球治理等核心议题。

张宏江博士现任北京智源人工智能研究院理事长，兼任多家科技企业董事与战略顾问。其职业履历横跨学术、产业与投资领域：他曾担任金山集团CEO及金山云首席执行官，更是微软亚洲研究院的联合创始人，并历任副院长、微软亚太研发集团首席技术官等职。在加入微软前，他曾在惠普实验室及新加坡国立大学系统科学研究院从事研发工作。

阿尔特曼演讲核心观点

阿尔特曼分析指出，本轮人工智能革命的影响之所以空前，源于其兼具巨大的变革规模与惊人的演进速度。这种双重属性在释放巨大生产力的同时，也系统性放大了潜在风险。

面对能力持续跃升的AI系统，全球协同治理的必要性已刻不容缓。在关乎人类共同未来的重大议程上，国际社会必须形成合力。其中，确保通用人工智能（AGI）的安全发展，是各国最具共识、也最需凝聚行动力的关键领域。

他坦诚表示，AI“对齐”问题在技术上仍未彻底攻克。以GPT-4为例，研发团队投入了超过八个月时间专门进行安全对齐。目前前沿研究主要沿两个维度推进：一是提升对齐方法的可扩展性，二是增强模型决策的可解释性。

对话环节精华摘要

1. 未来十年我们会有非常强大的AI系统

当被问及AGI的时间表时，阿尔特曼表示难以给出精确预测，但未来十年内出现极其强大的AI系统是大概率事件。技术扩散的速度往往超越预期，因此提前构建稳健的AI安全治理框架至关重要，这也是他持续倡导国际协作的根本原因。

2. 全球合作为AI提出安全标准和框架

谈及全球合作进展，阿尔特曼对近半年来各方的积极姿态表示认可。他认为国际社会对AGI的机遇与风险已形成严肃共识，并在安全对话上取得了实质性进展。尽管跨国协调历来复杂，但AI安全恰恰是一个能够跨越国界、凝聚共识的议题。当前首要任务，是为前沿AI系统建立一套全球认可的安全标准与治理框架。

3. 人工智能的对齐问题如何解决

关于对齐挑战，阿尔特曼指出其内涵远比技术层面更广泛。它不仅是让模型输出符合用户指令，更涉及系统行为验证、价值校准等整体性安全工程。技术方案是基础，但远非全部。例如，“人类价值观”的定义本身就需要社会多元主体的广泛参与，以确保系统设计具备公平性与包容性。此外，安全机制必须覆盖AI全生命周期，包括部署后的持续监控与动态优化。

4. 需要各国共同合作

阿尔特曼强调，AI安全本质上是社会技术系统问题，必须理解不同文化语境下的用户预期。因此，汇聚全球顶尖智慧至关重要。中国在人工智能领域拥有世界级的研究人才与工程团队，他期待中国专家能在此进程中贡献关键力量。

5. 需要非常不同的架构使得AGI更安全

针对“是否需要全新架构提升AGI安全性”的提问，阿尔特曼持开放态度。无论是出于性能突破还是安全增强的考量，未来出现超越当前Transformer范式的根本性创新是完全可能的。OpenAI团队也在持续探索提升模型可解释性的技术路径。

6. OpenAI开源的可能性

关于开源策略，阿尔特曼表示OpenAI将继续推进模型开源计划，但未透露具体模型名称与时间表。他辩证分析了开源与闭源（API）模式：开源促进生态创新，而API模式提供了额外的安全护栏，例如防止恶意滥用、紧急召回缺陷模型等。当模型能力达到一定阈值时，完全开源可能并非最优解，需进行审慎的风险收益评估。

7. AGI的下一步方向？会很快看到GPT-5吗？

谈及技术路线图，阿尔特曼表示前沿探索充满不确定性。OpenAI未来会启动GPT-5的研发，但“不会在近期”，目前没有明确时间表。公司早期在机器人领域的探索虽遇挑战，但长期仍视其为重要方向。在安全研究上，利用先进模型（如GPT-4）辅助分析其他模型（如GPT-2）内部机制的方法将继续深化。不过他也指出，人工神经元的可观测性远高于生物神经元，该方法对人工系统更为直接有效。

8. 控制模型数量可行吗

对于“通过限制全球强大模型数量以管控风险”的建议，阿尔特曼认为核心不在数量控制，而在于是否建立了强制性的安全验证体系。理想的治理框架应确保任何强大模型在部署前都经过严格的对齐测试与安全评估，使开发者同时具备能力与责任保障其产品安全。他赞同可借鉴其他高风险行业（如医药审批）的成熟许可与测试框架。

对话尾声，张宏江博士向阿尔特曼致谢，并期待未来能开展更深入的线下交流与合作。