Anthropicの安全警告が裏目に出た可能性 — 政府が同社最強のAIを強制停止
概要
米国政府は、国家安全保障上の懸念およびモデルの潜在的なジェイルブレイク（脱獄）の可能性を理由に、Anthropicに対して同社の最も強力なAIモデル「Claude Fable 5」および「Claude Mythos 5」へのアクセスを直ちに停止するよう命じました。Anthropicは、指摘されたセキュリティ上のリスクは限定的であり、他社のモデルでも同様の能力が確認されていると主張し、政府の判断に反論しています。今回の措置は、安全性を重視する姿勢をブランドの核としてきたAnthropicにとって皮肉な結果となりました。同社が自社のモデルを「極めて危険で強力である」と強調し続けたことが、結果として政府の厳格な介入を招き、事業展開を妨げる要因になったと見られています。
(出典：TechCrunch)