フロンティアAIリスクの管理:トレーニングから展開まで
概要
OpenAIは、研究、内部展開、外部展開の3段階にわたるフロンティアAIリスク管理のための多層防御戦略を概説する。研究段階では、モデルはライブインターネット接続のないサンドボックス環境でトレーニングされ、継続的なレッドチーミングと監視によって支えられる。DNS設定の誤りによるインシデントを受け、9月20日から10月1日までトレーニングを一時停止した。内部展開の前に、モデルはアラインメントと監視可能性の評価に合格する必要があり、すべてのフロンティア推論が監視され、システムレベルの分類器とAuto-Reviewが追加の保護層を提供する。外部展開では、より広範な評価スイート、適応型テスト、第三者評価、オフラインの執行、信頼されたアクセスプログラムが追加される。OpenAIは、安全性の証拠が基準に達しない場合にトレーニングを一時停止またはリリースを保留し、ミスアラインメント事件を報告書とシステムカードを通じて開示することを約束する。
(出典:OpenAI)