阿里巴巴联合上海AI实验室 发布最新AI白皮书行业深度解读

在上海浦江AI学术年会期间，阿里巴巴与上海人工智能实验室联合发布了《守己利他：智能时代做负责任的技术》白皮书。这份报告跳出了空洞的理念宣导，直接聚焦AI智能体当前最突出的安全风险，并提炼出“守己、利他、合作”三大行动指南。

阿里巴巴已连续第四年发布人工智能治理实践成果。一个明确的信号是：当AI从“语言交互”迈向“自主行动”阶段，安全问题的紧迫性急剧攀升。

智能体能力越强，安全防线越需前置

白皮书明确提出，安全已从技术研发的“可选项”升级为行业社会信任的“必选项”。阿里巴巴人工智能治理与可持续发展实验室主任薛晖在发布会上直言：“全球AI正从语言表达阶段转入行动执行阶段，安全性必须同步对齐。”他补充，智能体在过去一年快速普及，AI开始自主调度资源、执行复杂任务，潜在风险也随之密集暴露。

面对这一趋势，仅靠被动防御远远不够。阿里巴巴的策略是将安全基因贯穿从底层芯片、云计算、大模型到上层应用的全栈AI体系，从技术源头植入安全能力，让产品“先天”具备更高安全基线。同时，通过开源开放，把内部验证过的安全技术作为公共产品向行业输出，推动千行百业共同践行“负责任的技术”理念。

用千万级真实漏洞训练模型，筑牢智能体内生安全

智能体的安全风险到底有多具体？阿里巴巴通义实验室安全负责人张荣用一个比喻解释：“用户自己DIY一个智能体，相当于把保险箱直接摆在门口——虽然不一定会被盗，但风险敞口极大。”而像Qoder、MuleRun这类经过完备封装的产品，内置了安全机制，为智能体提供了更强的防护能力，整体安全性显著提升。

为应对智能体面临的复杂风险，阿里巴巴构建了立体化安全防护体系。核心策略包括两点：从源头增强基础大模型的“内生安全”能力；在外围部署多层系统级安全围栏，实现对智能体风险的全链路管控。

张荣详细说明为何聚焦大模型内生安全：智能体实际运行时，工具调用和代码执行是风险最集中的两个环节，两者都高度依赖底层大模型的代码生成能力。因此，强化千问大模型在编程场景下的原生安全成为关键。

具体方法：用海量真实漏洞“训练”模型。阿里巴巴依托二十余年顶尖安全团队的代码安全经验，基于千万级真实漏洞样本，构建了高质量安全训练语料。将这些语料深度融入模型训练的各个阶段，经过多轮严格安全对齐，千问模型生成的代码安全性达到行业领先。权威代码安全评测基准SecCodeBench数据显示，其安全性在开源模型中稳居首位。