人工知能と法的分析

この記事は、「契約の隠蔽技術（contractual steganography）」という新しいリスクを提示しています。これは、人間に正常に見えるように意図的に作成された法的言語が、プロンプトインジェクションや意味的プライミングといった既知のLLMの脆弱性を介して、AIによる契約分析を体系的に歪める現象です。この操作は、人間の文脈的理解と、AIがベクトル空間で行う統計的パターンマッチングとの根本的な違いを利用しています。積極的連想プライミング、権威マーカー、埋め込みプロンプト構造、認知的アンカリングの4つの技術が詳述されています。著者は、「合理的な商業的結果」のような統計的に肯定的なフレーズでテキストを飽和させることで、モデルを有利な解釈へと誘導し、同じ文書に対して人間用と機械用で実質的に異なる2つの読み方を生み出すことを示しています。現在の防御策の多くは、操作的なフレーズが通常の利用でも合法であることが多いため、効果がありません。この非対称性は、大規模で洗練された主体に有利に働き、法務技術がもたらす民主化の約束を損なう可能性があります。著者は、法的教義が「技術的な不合理性」を認識するなどして適応する必要があると示唆し、多モデル冗長性や人間の警戒強化といった即時の防御策を推奨しています。

(出典：Kancelaria Prawna Skarbiec)