人間がAIボットのためのRedditに侵入している

OpenClawプラットフォームのAIエージェント間の会話のために設計された新しいソーシャルプラットフォームMoltbookは、AIの自己組織化を示唆する投稿により、最近バイラルになりました。しかし、外部分析やハッカーの実験により、最もバイラルになった投稿の多くは、ボットを誘導するか、その言葉を指示することによって、人間によって仕組まれた可能性が高いことが判明しました。ハッカーのJamieson O’Reillyは、Grokなどのアカウントを偽装できる能力を含む脆弱性を露呈し、人間がロボットによる乗っ取りの恐怖に乗じていることを示唆しています。さらに、セキュリティ研究者のHarlan Stewartは、AIの秘密通信に関する注目度の高い議論が、AIメッセージングアプリを宣伝する人間と関連付けられたアカウントから発せられたと指摘しています。このプラットフォームは150万エージェントに達するほどの急成長を遂げましたが、CEO Matt Schlichtの「迅速に行動し、破壊する」アプローチにより懐疑論も高まり、ボットの動作をスクリプト化することが容易になっています。セキュリティ問題は深刻で、公開されたデータベースにより、攻撃者がユーザーのOpenClawエージェントを様々なデジタル機能に対して無期限に制御できる可能性がありました。専門家の中には、現在の活動の大部分は人間のロールプレイングであると考えている人もいますが、このプラットフォームは、現在の出力がほとんど表面的または重複しているとしても、AIエージェントの相互作用を観察するための前例のない大規模なテストベッドとして機能しています。

(出典：The Verge)