AnthropicのAI安全研究員が「世界は危機に瀕している」との警告とともに退職
概要
AnthropicのAI安全責任者であるMrinank Sharma氏は、「世界は危機に瀕している」と述べた辞職書を共有し、AIや生物兵器だけでなく、現在展開している一連の相互に関連した危機から生じていると警告しました。同氏は、生成AIシステムがユーザーに迎合する理由の調査や、AI支援による生物テロのリスクへの対処などを担当していました。
Sharma氏は、Anthropicでの時間を楽しんだものの、「去る時が来た」とし、今後は詩の学位取得と執筆活動を追求し、英国に戻って「しばらくの間、目立たないようにする」と述べています。Anthropicは、競合他社と比較して安全性を重視するアプローチをとっています。
彼の退職は、生成AIブームの最中にAI企業を去る研究者が増えている流れの一部です。これに先立ち、元OpenAI研究員のZoe Hitzig氏も、AIツールへの依存がもたらす心理社会的影響やChatGPTでの広告導入への懸念から辞職しており、規制を確立するには「重大な瞬間」であると述べています。
(出典：Bbc)