砺道智库 2024-03-07 10:55 北京

据defensescoop网3月5日报道，美国空军更新了一份广泛的机构公告，并对该部门在战场上调整人工智能能力的愿景提供了更多说明。

2月29日发布的跨机构公告(BAA)修正案修改了一个关键技术领域，并在最初于2023年8月发布的有关“人工智能和下一代分布式指挥与控制”的文件中添加了三个小节。

这些变化提供了有关空军追求新技术以定制和替换已部署系统上的错误算法的作战环境的更多信息，以及应对相关挑战的计划。与此同时，该军种正致力于开发和部署新的人工智能和机器学习工具，以执行各种任务，包括目标识别和操作称为协作战斗机的自主无人机。

官员们认识到，实验室开发的一些人工智能能力在被派往战区时可能达不到标准。

修订后的BAA在技术领域1部分中指出，该部分涉及指挥和控制人工智能系统以实现针对任务定制的人工智能。由于模型是以预期方式对数据（和模拟）进行先验训练的，因此基于人工智能的系统在现实世界中会遇到与训练特征分布和所使用算法的参数化不兼容的情况。其结果是模型性能下降，可能对任务有效性和安全性产生负面影响。因此，美国空军需要新的战斗管理流程来监控基于人工智能的系统的性能并更新现有模型，以应对不断变化的战场条件。

在微不足道的情况下，操作员只需重新调整预训练模型的用途，即可偶然满足意外的任务要求。在极端情况下，运营商将协调分布式工作流程（称为AICOA），根据任务执行重新训练、测试和部署新模型，以便相关系统能够继续按预期运行，同时将服务损失降至最低。

作为可以应用此类人工智能“战斗管理”的用例的一个例子，该文件描述了由一架在恶劣天气下运行的无人机执行的假设情报、监视和侦察任务。

BAA解释道，“有一种新型战斗管理器，称为人工智能接口官，它监控无人机上托管的计算机视觉模型的性能，并寻找‘人工智能漂移’的情况——当学习功能的领域不存在时导致的意外行为。与输入数据更加兼容。在这种情况下，由于天气事件的显着变化，对象检测模型不再适用于实时传感器数据。人工智能安全官必须评估继续使用该模型对任务成功造成的风险。如果认为风险太高，人工智能安全官将通过基于云的服务与远程操作员协调，以确定漂移的根本原因，并提出新的人工智能适应策略（例如，替换模型、微调、迁移学习等）和部署选项（例如，“使用上行链路在1500小时时替换无人机上的模型”），以适应环境，同时遵守规定的任务时间表。”

在另一个用例中，如果太多平台被击落、无法有效攻击敌方目标或在其他方面表现不佳，则可以对战斗无人机上的软件进行调整。

例如，操作员可以更新自主协作平台上的控制政策……提高技能来躲避敌方部队或提供掩护火力。文件指出，某些警报机制可能是由不可接受的平台损耗率或糟糕的任务表现触发的，应该可以帮助运营商决定何时以及如何更新自主权。

为了应对与实现其愿景相关的挑战，美国空军在BAA中增加了三个与决策辅助、制造和部署流程以及态势感知相关的技术子领域。

对于第一个分区，空军希望能够使用政府提供的可用数据集、算法、模型和主机平台清单来执行权衡分析，根据各种因素对不同的适应和部署选项进行排名，并提供战斗界面管理者审查选项并做出选择。

“当自动目标能力……表现出异常行为时，操作员必须选择最佳的适应和部署选项来解决偏差。由于每个步骤都有本地成本，因此该技术应帮助操作员了解与完成任务要求和资源可用性有关的总体复合成本……例如，系统可以在模型准确性与部署准备情况之间进行权衡，假设有更好的模型需要更长的时间来训练和评估，”BAA表示。

美国空军正在寻找“新颖的演示方法”来促进此类选择过程。

对于与人工智能模型的制造、测试和部署相关的第二个子领域，该服务指出，它需要操作员能够协调下一代战斗管理站的工作流程执行。

对于专注于态势感知的第三个子领域，美国空军希望能力跟踪器能够提供位置数据以及有关移动武器平台及其所装载的人工智能模型状态的其他关键信息。

它还需要能够实现操作员“漂移检测算法和实时性能反馈的即插即用集成”的监控工具，以便战斗管理者可以就表现不佳的人工智能发出警报，并考虑解决问题的行动方案。

BAA表示：“由于漂移检测研究仍处于起步阶段，[本公告]寻求框架来集成现有的（可能是初级的）漂移检测方法，而不是开发新的最先进算法。”

它指出，空军并未征求有关新平台、通信硬件、通信网络或人工智能开发框架的提案。相反，它寻求“如何在战斗管理控制站和工作流程中连接现有人工智能开发框架以配置人工智能行为的创新”，如文件中所述。

美国国防部计划在各种军事演习中对公司的解决方案进行现场实验，以评估技术里程碑的完成情况。

BAA包括其他五个技术领域，持续到2028财年。不过，如果承包商想要与2025财年的预计资助机会保持一致，美国空军鼓励承包商在3月15日之前提交白皮书。