OpenAIの「独立評価」は全く独立していないように見える

Mother Jones
OpenAIの4つの外部研究所による安全レビューは、アクセス制限とOpenAIによる共有人員・情報の管理により独立性が損なわれている。

概要

OpenAIは、4つの独立評価機関—METR、Apollo Research、Transluce、Goodfire—がAIモデルと安全機能を評価すると発表した。しかし、評価機関は重大な制限に直面している。OpenAIはチームメンバーを承認し、インタビュー可能なスタッフを選択し、「技術的実現不可能性、セキュリティリスク、またはIP保護」を理由に情報を伏せることができる。各評価機関のアクセス権限と時間は異なり、例えばMETRの以前の調査は現地6日間に限定され、その報告書は「人間の研究者より著しく判断力と信頼性が低い」AIエージェントへの重度の依存を指摘した。Apolloの4ヶ月の評価はOpenAIによって縮小される可能性があり、Transluceは事前承認された資料のみにアクセスでき、Goodfireの「深いアクセス」は未定義のままである。批評家は、OpenAIが範囲とアクセスの最終決定権を保持しているため、これらは真に独立した調査ではなく、CEOのSam Altmanが以前約束した「従業員と同等のアクセス」に反すると指摘する。記事は、この発表が一定程度の透明性を示すものの、真の独立性にはほど遠いと結論付けている。

(出典:Mother Jones)