The Verge：名人 AI 深伪内容泛滥，Instagram 验证账号成传播渠道

事后看来，那条Instagram帖子本应引起更多警觉。图片据称展示了女演员Mia Goth，就在她向演员兼导演Shia LaBeouf提出离婚几天后，身穿一件印有尖锐信息的T恤：我的前任是我最大的粉丝。为了真正强调这一点，帖子还配上了Beyoncé的歌曲《Single Ladies (Put a Ring on It)》。

对于这位Pearl的主演来说，这会有违她的性格，她几乎没有社交媒体存在，如果有的话。但发布该帖的Instagram账号@miagoth_拥有超过一百万粉丝，并带有蓝色“认证”标记。几天之内，这张图片就获得了近50万个赞，包括来自娱乐界同行的点赞，尽管该页面被标记为粉丝账号。

正如The Verge报道的那样，这张图片是AI生成的，由一个Goth的代表称他们此前曾向Instagram投诉过发布Goth“伪造、AI图片”的账号所发布。Meta允许用户购买蓝色“认证”标记，即使该账号并非由知名人物运营，也不是官方页面。

“这个粉丝账号符合Instagram获得‘蓝标’的标准，这一事实从根本上就令人不安，”Goth的代表Christine Tripicchio在给The Verge的邮件中表示。“除此之外，令人无法理解的是，Instagram显然优先传播伪造和操纵的图像，而不是保护公众人物肖像的完整性和真实性。”

由于她离婚的消息，这条帖子在名人八卦媒体中流传开来，而这些报道又通过Google搜索进一步传播了该帖子。搜索这位女演员和这件T恤时，触发了一条AI生成的概览，称Goth正在“在最近提出离婚后，对她的前任Shia LaBeouf进行明确的讽刺”，并引用了上述博客。Google搜索结果中一个标有“Mia Goth在Instagram上身穿‘我的前任是我最大的粉丝’俏皮T恤引发关注”的部分被突出显示，同时还有讨论该图片的社交媒体帖子链接。Instagram最终以冒充公众人物为由删除了该账号。

自从几年前消费者生成式AI工具问世以来，一些更令人难忘——也更具争议——的用例都涉及名人。被数字克隆并当作玩物的人类当事人历来反应不佳：一首AI生成的Drake仿声歌曲在版权投诉后被从YouTube下架。Scarlett Johansson在OpenAI未经她同意发布了一款听起来像她的ChatGPT语音后聘请了法律团队。据说Ariana Grande去年屏蔽了一个发布她AI生成内容的账号。Taylor Swift在2024年公开支持Kamala Harris竞选总统，称在Donald Trump发布暗示她支持他的假图片后，她感到有必要澄清自己的立场。

曾经有一段时间，每个人，甚至富人和名人，都在努力应对新技术的规范。如今，网上的AI内容低谷只会越来越大——而且不清楚是否有人在尝试或能够阻止它。

描绘女性公众人物的 AI 内容往往带有明显的性意味。一个专门发布约翰逊 AI 生成图片的账号——常常突出展示赤脚——还附有联系方式，供公司在账号上投放广告，并附有 Patreon 和 Telegram 频道链接，出售订阅内容。平台外内容使用约翰逊的名字和（AI）形象来宣传成人内容。另一个账号发布演员和音乐人如 Millie Bobby Brown、Zendaya 和 Grande 的逼真 AI 生成图片，总是衣着不整或摆出性化姿势。一些账号有自己特定的细分领域，比如“怪奇物语演员彼此结婚”。

在 The Verge 就八个发布名人深度伪造内容的账号询问 Meta 后，发言人 Alex Dziedzan 表示公司已删除其中一些账号。其中两个——哥特风格的那个和约翰逊的那个——似乎已被下架。

“我们不允许账号利用某人的肖像来冒充该人，无论内容是真实的还是 AI 生成的，”Dziedzan 在电子邮件中说。

Taylor Swift 端着一杯酒，跟着 Drake 的《Burning Bridges》说唱，脏话全出。“我嗑了[安眠酮]/它让我身体发麻，”她唱道，穿着2009 年 VMA 那个命运攸关时刻的裙子。这段视频显然是 AI 的。它在 Instagram 上有 180 万次观看。

“我觉得她的公关团队不会喜欢她说 N 字，”有人评论道。

Instagram 上充斥着这样的视频，常常莫名其妙地遵循非常特定的格式。一段 AI 史莱克做和 AI Swift 同样事情的片段有 310 万次观看。这里是史蒂夫·乔布斯，随着另一首 Drake 的歌大摇大摆地走动，手里拿着一瓶香槟（37.1 万次观看）。还有一个一模一样的莱昂内尔·梅西版本（210 万次观看），由另一个账号发布。这里是一级方程式赛车手刘易斯·汉密尔顿和马克斯·维斯塔潘对口型演唱 Bruno Mars 和 Rosé 的《APT》（290 万次观看）。另一段视频展示了 AI Swift 与 AI Travis Kelce 在 AI 麦迪逊广场花园的婚礼。

“ai 他穿了白色燕尾服，”一位粉丝好心地核实道。

在缺乏全国性形象权法律的情况下，包含真实人物的 AI 生成内容正在平台层面进行诉讼。（美国的《Take It Down Act》于 2025 年签署成为法律，专门将传播未经同意的私密影像——包括 AI 生成内容——定为犯罪，并强制平台在 48 小时内删除。）

YouTube 拥有相似度检测功能，这或许是最强大的深度伪造监控与下架系统。根据该计划，YouTube 会扫描其平台，寻找与某人视觉上匹配的内容——以及近期加入的相似声音——并允许他们请求下架相关内容。并非所有下架请求都会被接受；该公司表示在评估下架请求时会考虑公共利益、新闻价值和当事人同意。该计划最初面向名人、内容创作者、政治人物和记者等公众人物开放，但现在已覆盖所有拥有 YouTube 账户的成年人。过去，该公司曾表示其收到的下架请求数量相对较少。创作者希望了解自己在 YouTube 上被发布了什么内容，但这些内容往往“相当无害，甚至对其整体业务有所助益”，创作者产品副总裁 Amjad Hanif 在 3 月的一次新闻发布会上表示。

静态图片不受 Meta 人工智能标注要求的约束

YouTube 发言人 Jack Malon 在给 The Verge 的电子邮件中指出，该公司的相似度检测是与娱乐行业合作开发的。Malon 表示，在 2026 年上半年，YouTube 下架了通过该计划报告请求下架的视频中超过 95% 的内容。

Meta 平台上的 AI 生成内容通常带有标识其 AI 属性的标签。某些内容，例如逼真的人物视频或 AI 生成的声音音频，必须带有 AI 标签。而静态图片则不受标注要求的约束——这意味着那张 Mia Goth 的假图按照 Meta 的规则本不需要披露。该公司还推出了“AI 生成个人资料”标签，适用于整个账户，前提是所展示的头像在现实世界中并不存在，此举是在大量 AI 网红类账号涌入平台之后推出的。

但存在一个由账号组成的小型产业，专门大量产出算法似乎喜欢的真人 AI 生成图像。其中一些内容并非明显恶意，只是有些奇怪：例如，Facebook 上有一种AI 生成的电影首映视频类型，原版演员（身着戏服）与重选角版本的演员一起走红毯。有一个个人资料页面在推广每月 29 美元的在线课程，教人如何通过 AI 内容赚钱。

AI 生成的名人内容也有可能真正让人误以为真，就像那张描绘 Goth 的图片（及其账号）的情况一样。那条疯传的具体帖子暗示这位女演员在嘲讽 LaBeouf，后者曾被另一位前伴侣指控虐待，并在2015 年被拍到说如果他继续和她争吵，“就会杀了 [Goth]”。那张假图引人注目、阴暗且应景——换句话说，非常适合在社交媒体上疯传，但对涉事各方来说却可能是个隐患。这一事件暴露了本应防止此类混淆的信任与安全条款的失效。

在社交媒体上，AI 内容与真实图片的普通转发自由混杂。即使一个页面被下架，还有其他页面继续推送内容：另一个仍在运营的 Instagram 账号拥有超过 30 万粉丝，持续发布约翰逊的图片和视频，其中似乎既有真实图片，也有 AI 生成的内容。它最受欢迎的帖子之一看起来是一张约翰逊的 AI 图片，获得了近 50 万个赞。帖子没有 AI 披露，这符合 Meta 的规定。深度伪造的约翰逊躺在沙发上，赤脚格外显眼。那显然不是她——但评论区的粉丝要么不知道，要么不在意。

关注本报道的话题和作者，在个性化首页信息流中看到更多类似内容，并接收邮件更新。

• Mia Sato