我们不必拥有不受监督的杀手机器人

Anthropic正面临五角大楼迫在眉睫的最后通牒：允许美国军方不受限制地使用其人工智能技术，包括用于大规模监控和完全自主的致命武器，否则可能被列为供应链风险，损失数十亿美元的合同。这种情况引起了包括OpenAI、xAI、亚马逊、微软和谷歌在内的主要科技公司员工的担忧，他们中的许多人对雇主日益增加的国防合同合作感到背叛。尽管Anthropic首席执行官Dario Amodei公开拒绝了即时要求，理由是当前技术不可靠，但他对未来在致命自主武器研发方面的合作持开放态度。主要科技公司近期为争取丰厚的军事合同而放宽了道德准则，例如OpenAI取消了对战争用途的禁令，Anthropic修改了其负责任的扩展政策。尽管过去曾出现过由工人主导的抵抗并取得成功（如谷歌终止“Maven项目”），但目前的氛围暗示着一种恐惧和沉默的文化，尽管Anthropic目前的立场为倡导伦理界限的人们带来了一线希望，特别是要求在致命决策中必须有人工干预。

(来源：The Verge)