The Facebook insider building content moderation for the AI era

元Facebookのビジネスインテグリティ責任者であるBrett Levensonは、コンテンツモデレーションの問題が単なる技術的な問題だけではないと認識し、Moonbounceを設立しました。人間のレビュー担当者は、複雑なポリシーと迅速な意思決定に苦労し、不正確につながっていました。Moonbounceは、「コードとしてのポリシー」というソリューションを提供し、大規模言語モデルを使用してリアルタイムでコンテンツを評価し、ポリシーを適用し、ユーザー生成コンテンツとAI生成コンテンツの安全層を提供することを目指しています。同社は現在、出会い系アプリ、AIコンパニオン、画像ジェネレーターなどのプラットフォームにサービスを提供し、毎日4000万件以上のレビューを処理しています。Moonbounceの技術は、有害なトピックから会話を「誘導」するなど、積極的な安全対策に重点を置いており、Levenson氏は、潜在的な買収オファーを検討する際でも、この技術が広く利用可能であることを望んでいます。

(出典：TechCrunch)