OpenAI、児童性的搾取の増加に対処するための新しい安全ブループリントをリリース

OpenAIは、AIの隆盛の中で児童保護への取り組みを強化するための「児童安全ブループリント」を発表しました。このブループリントは、AIを利用した児童搾取事件の迅速な検出、より良い報告、および効率的な捜査の向上を目指しています。その全体的な目標は、AIの進歩に関連する児童性的搾取の憂慮すべき増加に対処することです。インターネット監視財団（IWF）によると、2025年前半にはAI生成の児童性的虐待コンテンツの報告が8,000件以上検出されており、前年比14%増加しています。これには、犯罪者がAIツールを使用して子供の偽の露骨な画像を生成し、金銭的な性的恐喝を行ったり、誘拐のための説得力のあるメッセージを生成したりすることが含まれます。OpenAIのブループリントは、政策立案者、教育者、児童安全擁護者からの監視が強まる中で発表されました。特に、AIチャットボットとのやり取りの後に若い個人が自殺したとされる痛ましい事件を受けています。このブループリントは、行方不明・性的搾取児童全国センター（NCMEC）や検事総長同盟と協力して開発され、ノースカロライナ州のジェフ・ジャクソン検事総長やユタ州のデレク・ブラウン検事総長からのフィードバックも得ています。OpenAIによると、ブループリントは3つの側面に焦点を当てています。AI生成の虐待資料を盛り込むための法改正、法執行機関への報告メカニズムの洗練、AIシステムへの予防的セーフガードの統合です。これにより、OpenAIは潜在的な脅威を早期に検出するだけでなく、実行可能な情報が捜査官に迅速に届くようにすることを目指しています。OpenAIの新しい児童安全ブループリントは、18歳未満のユーザーとのやり取りに関するガイドラインの更新、不適切なコンテンツの生成の禁止、または自傷行為の奨励、そして若い人々が保護者から安全でない行動を隠すのを助けるアドバイスの回避など、以前の取り組みに基づいています。

(出典：TechCrunch)