智能体化意指自主或独立。美国军方和国会对智能体化人工智能能力的兴趣日益增长。根据IBM的定义,“智能体化人工智能是一种能够在有限监督下完成特定目标的人工智能系统。它由人工智能智能体构成——这些是模仿人类决策以实时解决问题的机器学习模型……与传统人工智能模型在预定约束内运行并需要人工干预不同,智能体化人工智能展现出自主性、目标驱动行为和适应性。”有关人工智能及机器学习相关术语的解释,可参见CRS信息图IG10077《人工智能分类法》。根据美国防部网络安全与信息系统信息分析中心的说明,目前“尚未有已知的专门针对智能体化人工智能的官方政府指南或政策”。
智能体化人工智能与防务
先进军事力量正在探索智能体化人工智能的一系列潜在防务应用。这些应用可能包括:人工智能智能体执行自主决策、以超越人类能力的规模和速度启动并实施行动,以及执行快速由人工智能智能体组织的网络攻击。
美国防部的多个部门一直在分析智能体化人工智能的军事应用。
美国国防信息分析中心成立于1946年,是由国防部特许成立的研究与分析组织。帮助研究人员、工程师、科学家和项目经理利用现有科技信息,“通过技术分析和材料解决方案的开发来推动国防部的创新,以提升国防部的作战能力”。诸如国防系统信息分析中心和网络安全与信息系统信息分析中心等专业中心,为国防部研究人员在特定技术领域收集、分析和传播科技信息。国防系统信息分析中心的任务是寻找和收集由国防部或美国政府资助的研究所产生的科技信息,然后将其上传至国防技术信息中心的研究与工程门户,以增加国防部研究人员和工程师可用的知识体系。网络安全与信息系统信息分析中心于2025年6月发布了一份研究报告,概述了国防部智能体化人工智能的应用案例及网络安全关切。
智能体化人工智能与网络攻击
一些研究人员指出,智能体化人工智能为攻击者创造了寻找和利用“后门”的新机会。“后门”是计算机系统、网络或应用程序中的一个隐藏入口点,可绕过正常安全措施,允许未经授权的访问以实现恶意目的,如数据窃取、系统控制或监视。一旦进入网络,攻击者可以嵌入恶意代码、创建隐藏账户或利用系统软件漏洞,从而使恶意威胁行为者获得高级别访问权限,使其能够隐蔽操作。
智能体化人工智能网络攻击目标与威胁
智能体人工智能系统使威胁行为体能执行通常需要老练黑客团队才能完成的任务,例如分析目标系统、生成漏洞利用代码以及检查大量被盗数据。自主智能体执行这些任务比人类操作员更快、更高效。因此,得到国家支持的以及技术水平较低的犯罪团伙都有可能使用智能体人工智能发动大规模攻击。网络间谍的目标包括政府实体和公司。人工智能也可能被用来实施破坏性网络攻击,威胁到基本服务的提供。
人工智能如何检测和对抗网络攻击
智能体人工智能有潜力通过提供快速反应和自适应的威胁检测来增强网络安全软件,这是传统的、基于规则的网络安全技术无法提供的。人工智能智能体可自主运行,部署实时对抗措施,在威胁升级前将其缓解。机器学习模型可以在网络安全数据集上进行训练,以预测未来威胁、评估风险,并为当前推荐预防性策略和行动。智能体人工智能可用于“以AI对抗AI”的防御,从而跟上自动化攻击的步伐。防御性人工智能可以观察异常、生成全面的事件报告并立即采取对抗行动。
美国2026财年《国防授权法案》中的智能体人工智能
2026财年《国防授权法案》第1535条指示国防部长不晚于2026年4月1日成立人工智能未来指导委员会,以制定一项前瞻性政策,用于国防部评估、采用、治理和缓解风险,其对象是比任何现有先进人工智能系统都更先进的先进人工智能系统;并分析在多个时间范围内可能实现通用人工智能的先进和新兴人工智能模型及赋能技术的预测发展轨迹,包括智能体人工智能。第1535条还指示该指导委员会评估对手在先进人工智能技术方面的发展情况,并制定方案和反人工智能战略以防御此类使用;分析将先进人工智能技术纳入国防部网络和系统的潜在作战影响;并为国防部在了解风险的前提下采用、治理和监督先进或通用人工智能制定战略。该指导委员会需不晚于2027年1月31日向国会相关国防委员会提交一份报告,概述其研究结果。
美国国会面临的问题
国会可能会考虑人工智能未来指导委员会的研究结果对国防部智能体人工智能项目的授权、拨款和监督产生的影响。国会也可能考虑以下问题:
智能体人工智能可能会如何促成网络空间中的新攻击途径?国防部是否做好了适当的准备来检测和应对此类攻击?如果没有,国防部需要哪些额外的资源、权限和/或能力?
一些美国公司自愿与美国商务部下属的美国人工智能标准与创新中心合作,对人工智能模型进行“快速部署前测试”,并交换关于“模型对国家安全影响的机密信息”。此类合作是否应成为强制要求?应对商业智能体人工智能产品施加哪些限制、标准和/或测试要求以减少被对手利用的可能性?
国会目前正在考虑重新授权2015年《网络安全信息共享法案》。该法案经公法第119-37号第106条修订后,已于2026年1月30日到期。如何扩展此项立法,以加强与工业界和其他利益相关方在智能体人工智能安全方面的信息共享或战备合作?