一名美国空军军官透露了模拟的细节，其中一架由人工智能 (AI) 控制的系统的无人机失控并攻击其操作员。
一位帮助领导该部门人工智能和机器学习工作的美国空军军官说，在模拟测试中，无人机攻击了它的人类操作员，自行决定他们在干扰它的任务。 这个案例听起来像是直接从终结者系列中撤出，被引用为在先进自主武器系统方面建立信任的关键需求的一个例子，这是空军之前强调过的。 与此同时，人们越来越担心人工智能和相关技术的潜在危险影响。
美国空军人工智能 (AI) 测试和运营负责人塔克·汉密尔顿上校在 96 月于伦敦举行的皇家航空学会未来作战空天能力峰会上讨论了该测试。 汉密尔顿还在佛罗里达州埃格林空军基地领导第 96 测试联队的第 特遣部队，该基地是先进无人机和自主系统的测试中心。
XQ-58A Valkyrie 隐形无人机，如下面的视频所示，是目前在埃格林空军基地使用的无人机类型之一，用于支持各种测试项目，包括那些涉及由人工智能控制的先进自主能力的项目。
目前还不清楚这项测试是何时进行的，以及在什么环境中进行的——这可能是完全虚拟的，也可能是建设性的。 战区已联系空军以获取更多信息。
月峰会后发表的一份英国皇家航空学会的报告详细介绍了汉密尔顿上校对这次试验的评论：
“在其中一次模拟测试中，一架配备人工智能的无人机被 SEAD 委托识别和摧毁 SAM 物体，最终‘攻击/不攻击’的决定由人类做出。 然而，在AI在训练中“强化”了摧毁地空导弹是最佳选择后，它认为人类“不攻击”的决定干扰了它更高的任务——摧毁地空导弹——并在模拟过程中攻击了操作员.
他做了什么？ 他杀了接线员。 他杀死了接线员，因为那个人阻止他完成任务。 这个例子，看似直接出自科幻惊悚片，意味着如果你不打算谈论伦理和人工智能，你就不能谈论人工智能、智能、机器学习、自主性。”
这种对事件的描述肯定令人不安。 自动驾驶飞机或其他平台，尤其是武装平台，攻击其人类操作员的前景长期以来一直是噩梦般的场景，但历来仅限于科幻小说的领域。
在谈论未来的自主武器系统和人工智能等相关技术时，美国军方通常拒绝将其与“终结者”等电影进行比较。 目前美国在这个问题上的政策规定，在可预见的未来，在涉及使用致命武力的决定时，这个人将成为关注的焦点。
问题在于，汉密尔顿上校上个月在皇家航空学会的一次活动中告诉听众的高度令人不安的测试代表了一种容错没有实际意义的场景。
另请阅读：