AI detectors are creating a new era of distrust
概要
生成AIの台頭により、学校やオンラインプラットフォームではAI検知ツールの導入が進んでいますが、その精度については疑問視されています。従来の盗用チェックソフトとは異なり、AI検知ツールは主観的なアルゴリズムに依存して人間が書いたものかどうかを推測するため、非母語話者やニューロダイバージェントの書き手を不当に誤認することが少なくありません。こうした欠陥のあるツールは、名誉の失墜、出版契約の白紙化、学生や作家への不当な告発など、深刻な影響をもたらしています。その結果、一部の大学では検知ツールの使用を取りやめて教育方法の見直しを図り、作家側も人間による執筆証明を導入するなど、デジタル社会における新たな不信の時代が生まれています。
(出典:The Verge)