连Sam Altman也难逃Instagram上的AI深度伪造

The Verge
Meta首席AI官Alexandr Wang发布了一段深度伪造视频,视频中Sam Altman身着毛绒服装,凸显了Instagram上AI生成内容的泛滥。

内容摘要

11月初,Meta首席AI官Alexandr Wang在Instagram上分享了一段AI生成的视频,以推广Meta的消费者AI代理Muse。视频中,Wang、Meta CEO Mark Zuckerberg、OpenAI CEO Sam Altman以及Muse的拟人化吉祥物Jolly进行四方视频通话,Altman身穿毛绒连帽服并涂有面部彩绘,打扮成Jolly的模样。该视频被标记为AI内容,符合Meta对描绘人物的AI生成视频的要求,但静态AI图像并无此类要求——这一漏洞导致女演员Mia Goth的深度伪造图像在未披露的情况下传播。尽管描绘真实人物的AI内容曾引发强烈谴责和法律威胁,但如今在社交媒体上已司空见惯,包括政治广告中。Wang的帖子因其在Meta的职位以及该平台近期因AI生成内容受到的批评而引人注目,不过Meta发言人Tracy Clayton指出了该标签,并指出Altman已通过OpenAI的Sora应用将其肖像开放用于AI生成。

(来源:The Verge)