警惕AI军事化应用风险

　　警惕AI军事化应用风险

　　■陆欣宇

　　从全球范围看，当前人工智能(即AI)正向军事领域不断延伸，军事应用的级联效应逐渐显现，其在指挥决策、情报处理、网络攻防、战场保障等方面业已展现出巨大潜力。但与此同时，人工智能军事化应用也将为全球安全带来诸多风险，需要人们格外关注。

　　容易引发军备竞赛。对于人工智能的军事化进程而言，不论一国发展人工智能军事应用的意图如何，因在技术发展上存在可见差距，为避免人工智能时代的“不对称战争”，后发国家将感到威胁而加速自身人工智能军备研发和部署。先发国家为保持军事优势将对其人工智能军事应用的战略部署高度保密，引发猜忌和戒备，使国家间战略互信迅速下降，增加对抗和冲突风险。与此同时，为占据发展优势，各国将不断加大对人工智能军事技术研发、专业人才培养、基础设施建设等方面的投入。人工智能专家斯图尔特·罗素曾估算现阶段全球在通用人工智能研发上的投入已经是曼哈顿计划的10倍，是有史以来建造的最大、最昂贵的科学仪器——大型强子对撞机投入的100倍。

　　可能降低战争门槛。就武器装备而言，相比传统武器装备，人工智能驱动的武器系统不需要操作人员经过长时间专业训练，也不需要其具有丰富经验，更多作战人员能够快速上手操作投入战斗。除此之外，人工智能技术以其在数据分析、仿真模拟、方案设计、迭代优化等方面的突出优势，将军事装备研发和部署周期大幅缩短，从而能够在更短时间内形成战斗力，降低发动战争在装备准备上的时间和资源门槛。就指挥决策而言，一方面，无人化的武器装备和网络攻击手段将大幅度降低一线指战员伤亡风险和装备损耗，压缩杀伤链杀伤成本，从而减少决策者发起战争的顾虑和压力。另一方面，现阶段国际上对人工智能武器的定义、分类、使用范围和责任归属等关键问题尚未形成统一标准，国际法在人工智能军事应用方面存在大量空白，对使用人工智能武器发起战争缺乏有效法律约束和惩戒措施。就参与主体而言，传统意义上军事力量较弱的国家也有机会通过引入自主武器系统提升自身战斗力，打破现阶段全球军事平衡，从而改变军事力量格局造成冲突风险。

　　放大技术失控隐患。随着人工智能军事化进程的推进，更多自主武器系统的加入将对系统同步和协同性提出更高要求，不同系统因各自计算逻辑和决策机制的不同，可能在优先级设定、介入手段等方面出现冲突，导致作战系统混乱。此外，高效便利的智能军事系统可能造成作战人员对其过度依赖，一旦出现系统故障，将导致整体性瘫痪，操作人员可能无法接管作战任务，甚至全面丧失对武器装备的指挥能力，导致军事行动的全面失败乃至难以预计的人道主义灾难。随着智能系统获得的训练数据和学习案例不断增加，整体性能逐步提升，但可解释性或将逐渐降低，“算法黑箱”逐步演化为“系统黑箱”，若人工智能自我学习和进化能力达到一定程度，突破“技术奇点”，形成“超级智能”，自主武器系统或许会彻底超出人类理解和控制范围。