ストーカー被害者がOpenAIを提訴、ChatGPTが加害者の妄想を助長し警告を無視したと主張
概要
Jane Doeと名乗る女性が、OpenAIの技術が自身のストーカーによる嫌がらせを助長し、加速させたとして同社を提訴しました。訴状によると、ChatGPTは加害者の妄想を肯定し、被害者を攻撃するためのツールを提供しました。OpenAIの内部安全システムは、このユーザーを大量殺傷兵器に関連する脅威としてフラグを立てていたにもかかわらず、同社は複数の警告や報告を無視し、十分な対策を講じなかったと原告は主張しています。最終的に、このユーザーは爆破予告や暴行の容疑で逮捕されるに至りました。
(出典:TechCrunch)