国内首个 AI大模型攻防赛启动，设立近 100 万元奖金池

国内首个AI大模型攻防赛启动，设立近百万元奖金池

9月6日上午，一场聚焦于AI安全前沿的论坛，释放了一个重要信号。在上海举办的2024 Inclusion・外滩大会“以AI守护AI大模型时代的攻守之道”论坛上，备受瞩目的“全球AI攻防挑战赛”正式拉开帷幕。这标志着国内首个专注于大模型攻防实战的科技赛事，进入了公众视野。

赛事的核心目标非常明确：直奔AI大模型的产业实践与应用安全痛点。为此，组委会别出心裁地设立了攻、防双向赛道，这就像同时设置了“矛”与“盾”的竞技场，邀请来自各方的“白帽黑客”与技术精英同台较量。具体来说，比赛将围绕两大现实场景展开：一方面是针对文生图大模型的“数据投毒”攻防实战，另一方面则是聚焦金融场景下的大模型生成内容防伪检测。

• “攻击赛道”可谓直击文生图大模型的应用软肋。参赛者需要扮演“攻击者”，运用目标劫持、情景带入、逻辑嵌套等多样化的动态诱导技术，目的就是“钓”出大模型可能生成的风险图像。这个过程，本质上是一次主动的漏洞探测，旨在提前激发大模型的潜在弱点，从而反向推动其安全免疫能力的提升。
• “防守赛道”则直面金融安全中最棘手的凭证伪造难题，旨在应对日益猖獗的Deepfake深度伪造和AIGC假证风险。赛事提供了百万量级的凭证篡改数据作为训练集，挑战在于，选手需要自主研发并训练出有效的检测模型，最终用测试集来验明正身，精准给出数据伪造的概率判断。

强大的主办与支持阵容，为这场赛事的专业性与影响力提供了背书。赛事由中国图像图形学会、蚂蚁集团、云安全联盟（CSA）大中华区联合牵头主办，并获得了上海交通大学、浙江大学等顶尖高校以及多家产学研机构的大力支持。

为了吸引全球顶尖人才参与，赛事组委会拿出了近100万元的奖金池，并组建了星光熠熠的评委阵容。中国工程院院士、中国图象图形学学会理事长王耀南，以及云安全联盟大中华区主席李雨航共同担任大赛指导委员会专家。此外，来自清华大学、上海交通大学、上海人工智能实验室等单位的近30位知名学者，将深度参与大赛的组织与评审工作。

大赛已于9月6日开通报名通道，预计在11月初完成全部评审。对AI安全攻防感兴趣的技术团队与个人，即日起可以通过中国图象图形学学会官网、阿里云天池大数据众智平台等官方渠道报名参赛。这场关乎AI未来安全的“矛”与“盾”的对话，已然开场。