人工智能作战风险规避排行榜：2024年最佳策略

来源：中国军网-解放军报

■朱必纯

人工智能技术的迭代速度不断加快，正深度重塑战争形态与作战样式。加速AI在作战中的落地，已成为锻造新质战斗力、赢得未来冲突的关键路径。然而，AI同时带来了幻觉问题、技术依赖倾向以及人机关系的潜在扭曲。要规避这些应用风险、避免陷入使用误区，就必须深层次理解AI在作战中的角色，通过更科学、更精准的运用，切实提升作战效能。

智能涌现与幻觉相伴生

当大模型训练量突破临界阈值后，性能呈非线性跃升，催生出意料之外的新特质与新能力。这种涌现使AI从预设逻辑跃迁至自主认知范式，能力实现指数级增长，为战斗力提升奠定了坚实基础。但涌现的不可控性也导致幻觉与智能同步出现——虚假信息、机械拼接、随机臆造等问题严重削弱了系统的稳定性和可靠性。能力和风险的双重不确定性，引发了人机间的信任危机。人力资源并未从AI应用中真正解放，反而被转移到真伪辨别、价值判断、内容筛选等新问题上。可以说，智能与幻觉的双重涌现，是AI发展必须直面的现实。因此，拥抱智能、警惕风险，应成为AI作战应用的基本立场。前置风险防范环节至关重要——完善法规制度、建立应用规范、加强数据筛查、优化算法架构，构建技术预警与人工监测相结合的风险控制体系，确保AI始终稳定可控。

需求虽广泛，数据有边界

数据是AI作战应用的核心资源，其数量与质量从根本上决定了AI功能的实现与性能发挥。作战中，依托AI在数据获取与处理效率上的双向提升，可实现对海量作战数据的广域抓取、跨域融合与深度挖掘，揭示数据背后的潜在关联与内在规律，为精确作战提供强有力的技术支撑。从这个角度看，数据越多、覆盖越广、质量越高，AI赋能效果就越显著。然而，受权限、规则、格式等多重限制，数据在数量与质量上始终存在边界，无法完全满足AI的庞大需求。例如，敌情数据因防护严密而通常稀缺；对手会主动投放假数据，反向塑造AI，引导其认知偏移；缺乏统一数据标准与平台，则导致大量数据难以流转和整合，陷入“多而不能用”的困境。因此，必须重视数据的体系化建设——扩充数据来源、打通数据壁垒、统一数据标准、强化数据甄别，着力拓展数据边界，用丰富优质的数据支撑AI大模型的高质量训练。

指挥讲谋略，算法有规则

兵者，诡道也。作战指挥天然蕴含谋略性，强调通过谋略对抗夺取胜势。AI推理思考与自主决策能力的跃升，驱动战场速算精算效能大幅提升，在广域实时态势感知、快速精准筹划决策、动态自适应控制协调等方面展现出突出优势，极大丰富了谋略对抗的时空范畴、手段层次与质量效益。但也要看到，AI在作战指挥中的广泛深度应用，也埋下了指挥“标准化”的隐患——指挥活动更易被预判，诱使决策对敌“单向透明”。这是因为AI虽具备“类人”智能，本质上仍基于算法的有限规则，远未达到人类对战争复杂性、不确定性的深刻洞察、超常运用与能动反思。它无法替代指挥员凭借内化知识、个人经验、直觉、顿悟与洞见，去实施非常规、创造性的指挥决策，难以真正以“存乎一心”的“运用之妙”，做到致人而不致于人。因此，作战中既不能迷信机器智能、形成技术依赖、弱化人的主观能动性，也不能漠视时代趋势、一味强调人的决定性作用，而忽视AI与人类智慧交叉融合所涉及的“制智权”争夺。

关注情感连接，平衡算法与人性

AI可将物理世界虚拟映射至数字空间，为破解战场环境构设难、实战对抗检验难、实装训练消耗大、实射实投风险高等瓶颈问题，提供智能化解决新方案。但同时，数字空间通过“去情感化”，将人与自身及他人之间的情感连接抽象为符号与数据，一定程度上剥离了人的主体性。情感空间在数字空间的膨胀中逐步坍缩，催生出认知失调、伦理失范、人机关系失衡等一系列问题。战争不仅是物质的对抗，更是精神的比拼。历史与实践反复证明，一支战斗力强的军队，必然具备强烈的情感认同、高度的情感自觉以及良好的情感互动——而这些都需要在情感的交流与体验中培养强化。因此，军事智能化发展在推进数字赋能的同时，应关注情感连接，平衡好算法精度与人性温度。一方面，加快发展情感计算技术，使AI更好地理解并适配人类情感，构建和谐的人机交互环境；另一方面，也要运用好课堂、演训场等实体场地，以及讨论交流、实兵对抗等传统手段，通过面对面、实打实的情感体验弥补AI的短板。

针对体系开放性做好综合防护

AI为空间、力量、功能的跨域融合提供了技术支撑。通过其开放接口，实现人员与装备随遇接入、信息与态势融合共享、平台与火力联动响应、需求与保障动态匹配，释放体系效能，拓展作战优势。然而，AI的体系开放性也带来了多重隐患——系统扰动造成体系失能、数据潮汐引发链路过载、深度互嵌放大软杀伤威胁、广域互联倍增失泄密风险。系统防护面临严峻形势与重大挑战。因此，AI作战应用必须做好综合防护，防止干扰全局。一方面，通过接入校验、入侵检测、硬件加密、流量控制等技术手段，提高AI自身的防护能力；另一方面，着力提升人员的防护意识与防护素养，保留人工干预渠道，建立应急响应机制，充分发挥人在安全防护中的关键作用。