Hegseth、Anthropicに対しキラーAIの制限を巡り脅迫

ピート・ヘグセット国防長官率いる国防総省は、AI企業Anthropicに対し、同社が設定したレッドライン（アメリカ国民の大規模監視や完全自律型ドローン群の禁止など）を超えてAIモデルを調整するよう強要するため、『国防生産法』を発動すると脅迫しています。CEOのDario Amodei氏は、自律兵器には違法な命令を拒否する人間の安全策がないため、これらの制限を設定したと述べています。Hegseth長官は、Anthropicが従わなければ同法を発動するか、提携を打ち切ると脅したと報じられています。この対立は、軍事AI統合における議論が、「ループ内の人間」から監督的役割を担う「ループ上の人間」へと移行していることを浮き彫りにしています。専門家は、AIの意思決定（例えば、シミュレーションで戦術核兵器の配備を優先するなど）がバイアスや説明責任の問題を引き起こすと指摘しており、AIは道徳的または法的に責任を問うことができません。

(出典：Salon.com)