AnthropicはAIモデルの身元を証明するシステムを開発中

Anthropicは、特定の出力をどのAIモデルが生成したかを暗号学的に証明するオープンソースシステム「FlashProve」を開発中である。ブログ記事によると、このシステムは、モデルを構築・運用するラボ自身によるものを含め、あるモデルを別のモデルに偽装する行為に対抗することを目的としている。AI企業がコスト削減のために安価なモデルに密かに切り替えたり、性能結果を水増しするために高価なモデルに切り替えたりするのを防ぐことができる。FlashProveは、ラボがモデルの重みを明かさずに、出力と照合して暗号学的に検証できるモデルの指紋を公開することを必要とする。システムは軽量で、ローカルデバイスでの検証が可能である。研究者らはGitHubでオープンソースライセンスの下、技術仕様と実用的なコードを公開した。研究は進行中で、Anthropicや他のラボでの展開計画はない。この投稿は中間的な進捗を共有し、他者が改善することを目的としている。

(出典：TechCrunch)