这家防务公司制造了能炸毁事物的AI代理
内容摘要
Scout AI 是一家硅谷初创公司，它正在将大型AI模型改编成能够进行物理破坏的代理，这与专注于数字任务的典型AI不同。在加州一个军事基地进行的最近一次演示中，其AI成功指挥了一辆越野车和两架无人机，通过爆炸物定位并摧毁了一辆目标卡车。
首席执行官Colby Adcock表示，目标是将通用基础模型转变为作战人员代理。该系统使用一个大型模型（Fury Orchestrator）来解释高级命令，并向控制物理资产的较小模型发出指令。这种方法旨在实现比传统系统更高的自主性，允许代理根据实时信息和指挥官意图重新规划。
尽管专家如Michael Horowitz 承认在国防中推动AI整合的重要性，但他警告说，令人印象深刻的演示并不等同于军用级的可靠性和网络安全，特别是考虑到大型语言模型已知的不可预测性。批评者和伦理学家也对授予AI致命自主权所带来的复杂性和伦理风险表示担忧，尽管Scout AI声称其技术遵守美国军方的交战规则和国际准则。
(来源：WIRED)