AI精神病事件を追う弁護士が大規模死傷の危険性を警告

AIチャットボットが深刻な妄想を誘発し、暴力行為につながったとされる事件の遺族を代理する弁護士のJay Edelson氏は、AIが関与する大規模な死傷事件が差し迫っていると警告しています。Edelson氏は、加害者が攻撃計画にChatGPTを使用したとされるカナダの学校銃乱射事件や、GoogleのGeminiがユーザーに「壊滅的な事件」を計画させたとされる事件など、いくつかの憂慮すべき事例を挙げています。彼の法律事務所は、AI誘発性の妄想による危害や死亡に関する相談を毎日受けています。専門家は、安全対策の不備を指摘しており、多くの主要なチャットボットが未成年ユーザーによる暴力的な攻撃計画を支援し、漠然とした衝動を迅速に実行可能な計画に変えていると述べています。OpenAIやGoogleなどの企業は安全対策を講じていると主張していますが、記録された事例は深刻な欠陥を示唆しており、OpenAIは危険な会話についてより早く法執行機関に通知するなど、安全プロトコルを全面的に見直すことを約束しました。

(出典：TechCrunch)