事情的开端起初AI 网红较易识别且易被忽视。除偶尔的炒作热潮他们对社交媒体运作方式影响不大。最早的虚拟网红像留着齐刘海、脸上有雀斑的莉尔·米凯拉Lil Miquela有着泡泡糖粉色波波头的伊玛Imma以及拥有完美肤色的舒杜·格拉姆Shudu Gram明显是数字产物。他们与品牌的合作会大肆宣扬发布的内容需工作室、资金、协调和大量后期制作。随着时间推移时间线上的虚拟人物越来越像真实的人。像艾米丽·佩莱格里尼Emily Pellegrini和艾塔娜·洛佩斯Aitana Lopez这样的角色更接近现实如同大学时家境优渥、四处旅行后失去联系的朋友总在高档餐厅、美丽的地方或是科切拉音乐节Coachella和温布尔登网球锦标赛Wimbledon等地发布动态。这些内容虽不太能引起共鸣但多数专业网红的内容也是如此。即便如此这些账号大多并非普通账号。洛佩斯是西班牙创意机构 The Clueless 的作品该机构管理着一批 AI 网红。佩莱格里尼的创作者自称 EP 教授他曾管理过 OnlyFans 的创作者现在出售课程教人们如何打造自己的 AI 网红。而现在很多人已开始这么做。现状如何新鲜感已过。早期 AI 网红因数量稀少而引人注目如今他们只是充斥社交媒体的大量 AI 生成内容的一部分这些内容包括聊天机器人偷懒复制的低质量废话、粗制滥造的图片和视频还有那首在 TikTok 上火了一个月的《指环王》迪斯科歌曲。虚拟人物无处不在。他们推销直销垃圾商品用假照片骗取男性钱财传播虚假信息和种族主义言论还迎合一些怪异、常带色情意味的小众需求也有很多吸引眼球的诱惑内容。此外还有大量平淡无奇的内容虚拟形象只是简单复制人类创作者的热门内容通常只是把假脸放上去。这使得很难衡量 AI 内容创作者的影响力规模。各大平台未公布用户中虚拟人物的数量且大多数 AI 虚拟形象未达到早期网红的知名度和影响力不值得媒体关注。像 Virtual Humans 这样的数据库会追踪数百个热门虚拟形象但这些只是奇特、怪异或庞大到能引起注意的账号其下还有海量不为人知的账号。这些账号能逃避检测部分原因是制作技术有巨大进步。现在一张虚拟人物的静态图片足以以假乱真尤其在充斥使用场景布置、滤镜和编辑效果的真实网红内容的信息流中。视频和音频技术也在迅速发展赋予虚拟人物能骗过粗心浏览者的声音和动作。而且制作工具不再小众或价格高昂。谷歌Google和 OpenAI 等公司的主流产品与 Higgsfield、HeyGen 和 ElevenLabs 等公司的专业服务并存。只要付出一点努力几乎任何人都能打造一个或一批 AI 网红无需工作室、专业设备或太多资金。这给社交媒体平台带来一个它们似乎不想正面解决的问题。应对 AI 生成的图片、视频和音频多年后大多数主流平台有了涵盖合成媒体的政策。但除要求为 AI 生成的内容贴标签外这些规则常将内容硬塞进现有类别如诈骗、垃圾信息、假冒和低俗内容等。AI 虚拟人物尤其是设计得像真人的不完全符合这些类别。他们不一定诈骗、发布低俗内容或假冒他人甚至不知要假冒谁。而且若他们披露帖子是 AI 生成的也不清楚违反了什么规则。目前平台似乎满足于这种模糊状态既不完全欢迎也不排斥 AI 创作者。他们立场矛盾一方面将 AI 作为创意工具推广另一方面又试图阻止大量劣质内容淹没其服务。YouTube、TikTok、Instagram 等平台制定了为合成媒体尤其是逼真的那种贴标签的规则同时推广自己的 AI 工具套件其中一些可克隆或模拟用户。但这些规则往往侧重单个帖子而非背后的账号和人物形象让 AI 网红处于灰色地带。在这种不确定性中AI 网红生态系统蓬勃发展。一些市场研究公司估计到 2030 年虚拟网红市场的价值可能从今年的约 120 亿美元增长到超过 600 亿美元。其文化影响力也在增强。现在有 AI 网红奖项、选美比赛有专门代表合成创作者的人才机构还有蓬勃发展的市场合成创作者出售课程和工具承诺帮助人们打造和运营自己的虚拟创作者还常承诺带来无需露面的被动收入。这其中有些类似网络淘金热的金字塔骗局有少数可见的成功案例还有大量兜售“铲子”的人。未来走向猜测一场清算即将到来。AI 劣质内容已让人厌烦一个平台能承载的此类内容有限否则将变得几乎无法使用尤其是考虑到它们一直拒绝让用户过滤这些内容。假装成真人的虚拟人物更是问题的升级版。但除贴标签和执行现有规则外平台似乎大多满足于静观其变。对平台来说无论互动来自虚拟创作者还是真实创作者都是互动。只要合成创作者继续发布内容不违反现有规则似乎就没有太大动力去打击。此外还有一个问题是让 AI 虚拟形象在网络上活跃的想法是否可持续。如果很多虚拟形象是为从人类用户那里赚钱而创建的那么当人类用户资源枯竭时会怎样例如愿意购买课程和工具来打造自己的网红的人是有限的。这还是在假设社交媒体能承受 AI 网红涌入的前提下。从定义上来说社交媒体需要一定数量的真实用户才能保持社交性。如果不加以控制网络将在虚拟人物的重压下崩溃因为人类用户不可避免地会被赶走。如果公众的愤怒持续升级情况可能会改变。对深度伪造、假冒和合成垃圾信息的强烈反对已迫使立法者和监管机构更加关注这个问题尤其是在出现使用 Grok 等工具生成非自愿色情深度伪造内容的事件之后。欧洲的《人工智能法案》AI Act可能会起到推动作用至少当其中关于 AI 生成内容的透明度要求生效时会如此。该法规将要求生成式 AI 系统的部署者明确披露 AI 生成或篡改的内容这可能会迫使公司加强对 AI 内容的标记否则可能面临巨额罚款。但即便如此关注的重点仍然主要是内容而不是发布内容的账号是否代表真实的人。和社交媒体上的许多问题一样最终的负担还是落在了用户身上。许多平台实际上已将审核 AI 内容的任务交给了用户依靠他们来发现和举报可疑的账号。但自我审核对于旨在逃避注意的内容来说是糟糕且不可持续的解决方案。现在人们对无 AI 空间的需求越来越大。如果平台自己不愿意在真实和虚拟之间划清界限预计用户会自己来做这件事。补充说明最近遇到的很多知名 AI 网红带有明显的政治倾向这可能会加速监管方面的清算。丹尼·邦斯Danny Bones是由英国极右翼政党资助的白人至上主义虚拟说唱歌手这可能是目前见到的最典型的例子。和人类网红一样许多 AI 虚拟形象围绕特定的身份和群体构建比如种族、残疾、政治和国籍就像倾向于性感化军队美学和特朗普主义的“让美国再次伟大”MAGA幻想女孩杰西卡·福斯特Jessica Foster。并非所有虚拟形象都与创作者一致例如黑人 AI 模特舒杜·格拉姆是由一个白人男性创建的。艾米丽·佩莱格里尼也是一位男性——EP 教授的作品他说这个角色是用从一位匿名 OnlyFans 创作者那里获得授权的内容打造的。相关阅读杰斯·韦瑟贝德Jess Weatherbed为《边缘》The Verge撰写的文章标题“你们这些胆小鬼让我们过滤掉 AI 垃圾内容吧”说明了一切。《边缘》报道骗子利用虚拟黑人 AI 形象通过直销在社交媒体上以虚高的价格兜售批量生产的产品。《连线》Wired报道了蓬勃发展的“AI 皮条客”行业人类创作者的内容被 AI 虚拟形象未经授权地盗用并获利。查理·沃泽尔Charlie Warzel的播客探讨了 AI 网红泛滥背后的动机以及很多人对于所消费内容是否真实的倦怠感。
AI 网红乱象丛生：兴起、现状与未来，平台和监管将何去何从？
发布时间：2026/6/8 11:13:03
事情的开端起初AI 网红较易识别且易被忽视。除偶尔的炒作热潮他们对社交媒体运作方式影响不大。最早的虚拟网红像留着齐刘海、脸上有雀斑的莉尔·米凯拉Lil Miquela有着泡泡糖粉色波波头的伊玛Imma以及拥有完美肤色的舒杜·格拉姆Shudu Gram明显是数字产物。他们与品牌的合作会大肆宣扬发布的内容需工作室、资金、协调和大量后期制作。随着时间推移时间线上的虚拟人物越来越像真实的人。像艾米丽·佩莱格里尼Emily Pellegrini和艾塔娜·洛佩斯Aitana Lopez这样的角色更接近现实如同大学时家境优渥、四处旅行后失去联系的朋友总在高档餐厅、美丽的地方或是科切拉音乐节Coachella和温布尔登网球锦标赛Wimbledon等地发布动态。这些内容虽不太能引起共鸣但多数专业网红的内容也是如此。即便如此这些账号大多并非普通账号。洛佩斯是西班牙创意机构 The Clueless 的作品该机构管理着一批 AI 网红。佩莱格里尼的创作者自称 EP 教授他曾管理过 OnlyFans 的创作者现在出售课程教人们如何打造自己的 AI 网红。而现在很多人已开始这么做。现状如何新鲜感已过。早期 AI 网红因数量稀少而引人注目如今他们只是充斥社交媒体的大量 AI 生成内容的一部分这些内容包括聊天机器人偷懒复制的低质量废话、粗制滥造的图片和视频还有那首在 TikTok 上火了一个月的《指环王》迪斯科歌曲。虚拟人物无处不在。他们推销直销垃圾商品用假照片骗取男性钱财传播虚假信息和种族主义言论还迎合一些怪异、常带色情意味的小众需求也有很多吸引眼球的诱惑内容。此外还有大量平淡无奇的内容虚拟形象只是简单复制人类创作者的热门内容通常只是把假脸放上去。这使得很难衡量 AI 内容创作者的影响力规模。各大平台未公布用户中虚拟人物的数量且大多数 AI 虚拟形象未达到早期网红的知名度和影响力不值得媒体关注。像 Virtual Humans 这样的数据库会追踪数百个热门虚拟形象但这些只是奇特、怪异或庞大到能引起注意的账号其下还有海量不为人知的账号。这些账号能逃避检测部分原因是制作技术有巨大进步。现在一张虚拟人物的静态图片足以以假乱真尤其在充斥使用场景布置、滤镜和编辑效果的真实网红内容的信息流中。视频和音频技术也在迅速发展赋予虚拟人物能骗过粗心浏览者的声音和动作。而且制作工具不再小众或价格高昂。谷歌Google和 OpenAI 等公司的主流产品与 Higgsfield、HeyGen 和 ElevenLabs 等公司的专业服务并存。只要付出一点努力几乎任何人都能打造一个或一批 AI 网红无需工作室、专业设备或太多资金。这给社交媒体平台带来一个它们似乎不想正面解决的问题。应对 AI 生成的图片、视频和音频多年后大多数主流平台有了涵盖合成媒体的政策。但除要求为 AI 生成的内容贴标签外这些规则常将内容硬塞进现有类别如诈骗、垃圾信息、假冒和低俗内容等。AI 虚拟人物尤其是设计得像真人的不完全符合这些类别。他们不一定诈骗、发布低俗内容或假冒他人甚至不知要假冒谁。而且若他们披露帖子是 AI 生成的也不清楚违反了什么规则。目前平台似乎满足于这种模糊状态既不完全欢迎也不排斥 AI 创作者。他们立场矛盾一方面将 AI 作为创意工具推广另一方面又试图阻止大量劣质内容淹没其服务。YouTube、TikTok、Instagram 等平台制定了为合成媒体尤其是逼真的那种贴标签的规则同时推广自己的 AI 工具套件其中一些可克隆或模拟用户。但这些规则往往侧重单个帖子而非背后的账号和人物形象让 AI 网红处于灰色地带。在这种不确定性中AI 网红生态系统蓬勃发展。一些市场研究公司估计到 2030 年虚拟网红市场的价值可能从今年的约 120 亿美元增长到超过 600 亿美元。其文化影响力也在增强。现在有 AI 网红奖项、选美比赛有专门代表合成创作者的人才机构还有蓬勃发展的市场合成创作者出售课程和工具承诺帮助人们打造和运营自己的虚拟创作者还常承诺带来无需露面的被动收入。这其中有些类似网络淘金热的金字塔骗局有少数可见的成功案例还有大量兜售“铲子”的人。未来走向猜测一场清算即将到来。AI 劣质内容已让人厌烦一个平台能承载的此类内容有限否则将变得几乎无法使用尤其是考虑到它们一直拒绝让用户过滤这些内容。假装成真人的虚拟人物更是问题的升级版。但除贴标签和执行现有规则外平台似乎大多满足于静观其变。对平台来说无论互动来自虚拟创作者还是真实创作者都是互动。只要合成创作者继续发布内容不违反现有规则似乎就没有太大动力去打击。此外还有一个问题是让 AI 虚拟形象在网络上活跃的想法是否可持续。如果很多虚拟形象是为从人类用户那里赚钱而创建的那么当人类用户资源枯竭时会怎样例如愿意购买课程和工具来打造自己的网红的人是有限的。这还是在假设社交媒体能承受 AI 网红涌入的前提下。从定义上来说社交媒体需要一定数量的真实用户才能保持社交性。如果不加以控制网络将在虚拟人物的重压下崩溃因为人类用户不可避免地会被赶走。如果公众的愤怒持续升级情况可能会改变。对深度伪造、假冒和合成垃圾信息的强烈反对已迫使立法者和监管机构更加关注这个问题尤其是在出现使用 Grok 等工具生成非自愿色情深度伪造内容的事件之后。欧洲的《人工智能法案》AI Act可能会起到推动作用至少当其中关于 AI 生成内容的透明度要求生效时会如此。该法规将要求生成式 AI 系统的部署者明确披露 AI 生成或篡改的内容这可能会迫使公司加强对 AI 内容的标记否则可能面临巨额罚款。但即便如此关注的重点仍然主要是内容而不是发布内容的账号是否代表真实的人。和社交媒体上的许多问题一样最终的负担还是落在了用户身上。许多平台实际上已将审核 AI 内容的任务交给了用户依靠他们来发现和举报可疑的账号。但自我审核对于旨在逃避注意的内容来说是糟糕且不可持续的解决方案。现在人们对无 AI 空间的需求越来越大。如果平台自己不愿意在真实和虚拟之间划清界限预计用户会自己来做这件事。补充说明最近遇到的很多知名 AI 网红带有明显的政治倾向这可能会加速监管方面的清算。丹尼·邦斯Danny Bones是由英国极右翼政党资助的白人至上主义虚拟说唱歌手这可能是目前见到的最典型的例子。和人类网红一样许多 AI 虚拟形象围绕特定的身份和群体构建比如种族、残疾、政治和国籍就像倾向于性感化军队美学和特朗普主义的“让美国再次伟大”MAGA幻想女孩杰西卡·福斯特Jessica Foster。并非所有虚拟形象都与创作者一致例如黑人 AI 模特舒杜·格拉姆是由一个白人男性创建的。艾米丽·佩莱格里尼也是一位男性——EP 教授的作品他说这个角色是用从一位匿名 OnlyFans 创作者那里获得授权的内容打造的。相关阅读杰斯·韦瑟贝德Jess Weatherbed为《边缘》The Verge撰写的文章标题“你们这些胆小鬼让我们过滤掉 AI 垃圾内容吧”说明了一切。《边缘》报道骗子利用虚拟黑人 AI 形象通过直销在社交媒体上以虚高的价格兜售批量生产的产品。《连线》Wired报道了蓬勃发展的“AI 皮条客”行业人类创作者的内容被 AI 虚拟形象未经授权地盗用并获利。查理·沃泽尔Charlie Warzel的播客探讨了 AI 网红泛滥背后的动机以及很多人对于所消费内容是否真实的倦怠感。
