The Facebook insider building content moderation for the AI era
内容摘要
前 Facebook 商业诚信负责人 Brett Levenson 在意识到内容审核问题不仅仅是技术问题后创立了 Moonbounce。 人工审核员难以应对复杂策略和快速决策，导致不准确。 Moonbounce 提供“代码即策略”解决方案，使用大型语言模型实时评估内容并执行策略，旨在为用户生成和 AI 生成的内容提供安全层。该公司目前为包括约会应用程序、AI 伴侣和图像生成器在内的平台提供服务，每天处理超过 4000 万次审核。 Moonbounce 的技术侧重于主动安全措施，包括潜在地“引导”对话远离有害主题，并且 Levenson 希望即使在考虑潜在的收购要约时，也能使该技术得到广泛应用。
(来源：TechCrunch)