跳到正文
The Verge · AI· Mia Sato·· 2 小时前AI 评分35

Meta 首席 AI 官发 AI 深度伪造视频,Sam Altman 也成素材

Not even Sam Altman is safe from AI deepfakes on Instagram

AI 导读

Meta 首席 AI 官 Alexandr Wang 11 月在 Instagram 发布 AI 生成短片推广其消费级 AI 智能体 Muse,片中 Sam Altman 被塑造成穿着毛绒连帽服、涂着脸绘的 Muse 吉祥物 Jolly 形象。

正文 · AI 翻译

Instagram上充斥着发布深度伪造内容的人——包括最近来自Meta一位最知名高管的内容。

11月早些时候,Meta首席AI官Alexandr Wang分享了一段短视频,以推广公司的消费级AI智能体Muse。在这段AI生成的片段中,Wang、Meta CEO Mark Zuckerberg、OpenAI CEO Sam Altman以及Muse的拟人化吉祥物Jolly正在进行四人视频通话。当Altman加入通话时,他打扮得像Jolly,穿着毛茸茸的连帽套装,还涂了脸彩,以模仿这个可爱的角色。视频配文是“当兄弟们讨论openai产品战略时”,暗指AI智能体竞赛以及Muse近期的走红。

就在几年前,描绘真实人物的AI内容还会引发强烈的公开声明,谴责利用该技术模仿人类。在某些情况下,还面临法律诉讼威胁。如今,AI内容已成为新现实的一部分,尤其是在社交媒体上。例如,在中期选举前,政治团体投放了价值数百万美元的AI生成广告攻击对手。

Wang一直在做许多被一些人形容为“反公关”的事情来推广Muse,发了数百条推文,并把更传统的营销人员称为“corposlops”。尽管如此,一位大型科技高管发布竞争对手的AI视频仍然值得注意,尤其是在一个最近因AI生成内容而受到批评的平台上。在10月一张AI生成的女演员Mia Goth图像引发关注后,这位Pearl主演的代表告诉The Verge,Instagram允许该图像传播而不专注于“保护公众人物肖像的完整与真实”,这“令人无法理解”。包括Scarlett Johansson在内的其他名人经常成为性化AI图像的对象;Meta过去曾移除一些它认定为冒充他人并使用其肖像的账号。

Meta要求描绘人物的AI生成视频必须标注为AI,就像Wang的帖子那样。然而,静态图像没有此类要求,这意味着Goth的AI图像没有任何披露。更糟的是,该图像是由一个拥有Instagram蓝色认证徽章的粉丝账号分享的。

Meta发言人Tracy Clayton在回应置评请求时指出,Wang的帖子已标注为AI内容。Clayton还指出,Altman已允许将其肖像用于AI内容生成,例如OpenAI推出Sora应用时(该应用很快就被伪造的Altman视频淹没)。OpenAI未回应置评请求。

关注本报道中的主题和作者,以便在您的个性化主页信息流中看到更多类似内容,并接收电子邮件更新。

  • Mia Sato

来源:The Verge · AI · theverge.com