编者按：本文来自微信公众号 新莓daybreak（ID：new-daybreak），作者：何聆筝，编辑：翟文婷，创业邦经授权转载。
一场针对AIGC作品的限制，正规模化地席卷各个平台。
一些AIGC创作者在小红书拉起群组，分享自己被限制的经历。有人发布12星座内容被判定「传播封建迷信」，有人因为生成AI明星而遇到「侵权」提示。「虚构事件」和「假冒真人」是最常被引用的处罚理由。
同样的情况也发生在视频号和抖音，大量AIGC作品遭遇下架和封禁。作品即便不被封禁，也会被限制流量曝光和商业权益。
许多人推断，这一轮监管可能与9月1日即将实施的《人工智能生成合成内容标识办法》有关。该《办法》要求所有AIGC内容需添加显式标识（如文字提示、角标、语音声明）和隐式标识（如元数据、数字水印）。
不过依然有创作者反映，标注AI水印后的作品，还是没有被正常对待。
鼓励AI创作的同时，也在限制AI。
平台的这种矛盾心理让创作者迷茫，困惑。他们不是明知故犯，挑战规则，只是不知道边界和红线到底在哪，未来不知何去何从。
01频繁踩红线？
AIGC创作者林聪最近有点烦。
她发布在视频号的两个AI人物视频，因为被判定非真人出镜，视频推荐、私信和评论能力直接被停用。
按照要求，林聪详细提交了个人身份验证，选定AI制作选项，提交相关手机制作截图。系统回复，信息不够详细，不能证明制作过程。
虽然她内心有些不情愿，还是按照提示，再次把PC 端所有制作关键流程截图依序提交。这次验证通过，而且系统提示：之后发表AI 制作内容，选择「内容为AI技术制作，虚构内容请谨慎甄别」等提示。
不过这次验证只是恢复了视频评论功能，若需恢复私信功能，需要删除所有AI制作内容后，再次提交申请。
删除作品等于擦除个人名片，这让她有些无法接受，所以至今她的私信功能都没有恢复。
即便如此，林聪的体感是，这波针对AI作品的监管风潮，视频号不是最严苛的平台。她告诉新莓daybreak，「好像除了快手打上AI标识没什么影响，几个大的视频平台都在清查AI创作的作品。」
林聪不是个例。小红书关于AI限流的笔记数量超过3万篇。从流量曝光，商业权益限制，到产品被下架，涉及不同程度的封禁。
短视频平台风声鹤唳，网文圈的行动其实更早。
今年2月，晋江打出「反AI」的第一枪，发布了《关于AI辅助写作使用、判定的试运行公告》，明确规定使用AI的边界。接着，起点、番茄小说宣布全面禁止AI，要求作品必须100%人工创作。
网文平台整治力度之强，导致出现不少误判的现象。甚至评论区出现「感觉像是AI写的」，也有可能被编辑永久拉黑。
电商也加入行列，对「AI假图」进行整顿。
3月27日，淘宝修订了《淘宝网商品发布规范》和《天猫商品发布规范》，对「商品失真」做出明确的拓展解读。其中一个重点的指向，便是利用AI等技术合成方式，呈现显著失真的与实际不符的商品信息效果图。
整治力度空前，大有「宁杀错不放过」的决心。
02AI原罪？
过去两年，在「AI暴富论」、「超级个体」的叙事逻辑下，「一键生成」的内容迅速在互联网泛滥。
有人利用AI卖课，有人利用AI数字人贩卖三无产品。淘宝上，大量AI生成的卖家秀误导消费者购入，结果到手商品与图片严重不符。AI乱象，AI污染的声音不绝于耳。
据林聪观察，这一轮AI内容治理中，打击较多的是同质化、低原创性内容。「现在有了AI，谁家的内容火了，大家就会快速大量地复制。」
一个典型的例子就是今年过年期间《哪吒》爆火后，抖音出现了大量跟风制作哪吒的现象。而这类题材往往使用的都是相似的提示词或者同一个Lora生成的内容。
AI也让一些机构的起号成本变低了，利用AI工具一天内可以生成了上百篇引发矛盾对立的笔记。小红书去年三个月里处置了超过100万个黑灰产团伙，均为通过超大规模矩阵生成同质化内容。
为此，抖音从算法层面切入，将「原创识别率」纳入核心指标，AI生成内容若未标注或存在同质化「如重复率超25%」，会被判定为低质内容。而视频号则明确「禁止批量发布通过近似的情景、文案、元素等编造的同质化内容」。
平台重点整治的另一个方向便是，虚构真人形象和情节虚假夸大。
从平台的角度，这一点不难理解。毕竟小红书以「真实分享」为社区根基，视频号则要保障社交关系链中的信息可信度。
这也是为什么，小红书去年就着手研发基于「分类器」技术的AI识别模型，对识别为疑似AI生成的内容进行标记。为了巩固效果，小红书还设置了机器识别与人工审核的双重屏障。
站在创作者的角度来看，这有些无奈。
因为「真实」这一特质天然就和AIGC背离，人物本身就是虚构的，情节自然也是虚构，所以这更像是贴附于自身的「原罪」。
平台为「真实」所设立的门槛，还引发了另一个层面的「不公」：比起真实题材的视频，AIGC的审核标准更为严苛。
半职业AIGC创作者蓝心的作品最近也遭遇了违规提示。在小红书上，她曾先后发布了一系列真实的王一博的照片和AI生成的王一博视频。如今，前者仍挂在她的主页，而后者已经被平台要求删除。同样的题材，因为是由AI生成，便得到不同的判定结果。
值得一提的是，当下所有AI视频工具都在强调「真实感」。比如可灵的物理规律模拟、大幅度运动生成，比如即梦的质感提升、动作模仿，一切都在强调自身生成的效果接近真实。
从结果看，平台不希望创作者利用AI复原人物真实感，假如AI创作一只小猫、小狗，做出真实感，应该是会被接纳的。
03未来何去何从？
AI创作内容被严格限流的同时，各平台的AI「军备竞赛」却是日趋白热化。
3月19日，小红书才刚为旗下的AI应用「点点」上线了新入口，位于消息页面，且支持深度思考模式。几天前，字节开启了「即梦3.0」的灰度测试，该版本在分辨率上提升了50%，生成速度提升了30%。
更方便的入口、更新的版本、更强的性能，这些平台投入了大量资源，推动了AI工具的发展。目的是为了抢占下一代内容生产基础设施，将创作者绑定在自身生态内。
但当大量创作者开始使用AI工具，并且涌入AIGC这个领域，平台却缺少一套清晰的规则和审核标准来承接，这让质疑声频出。
有人说平台使劲拉人给AI工具做任务，搞了特别多相关的比赛和活动，然后大规模封禁，是一种诱导；也有人也说AI给平台带来不了利益，影响真人主播的收益，趁着政策出台，正好「一刀切」比较痛快。
平台既扮演AI工具提供者，又承担内容审核者角色，这种双重身份本身就是一种挑战。
有些平台甚至还在主动催生矛盾，比如番茄小说为了训练自己的AI，在签约协议中曾新增AI训练条款，引发过大量作者抵制和不满。
自2023年生成式AI广泛运用以来，伴随AIGC作品而来的就是诸多质疑和限制。知名如AI绘画作品《太空歌剧院》，曾两次进行版权申请被拒绝。
AI作品不仅版权上得不到正名，「同行」之间的关系也愈发紧张。大量传统内容创作者竖起了「反AIGC」的旗帜。这也使得2024年一款名为Cara的反AIGC社交产品，开始频繁登顶美国App Store的下载榜单。
小红书上也形成了一种「反AIGC」的氛围，创作者唐飞对此感到无奈，「一些用户看到AIGC作品就会点举报，特别是绘画圈的那群人。」
除了社会和法律法规层面的不被认同，对大模型厂商，AIGC还意味着一种危险：用AI生成的数据去训练AI超过5次，模型性能会大减。莱斯大学和斯坦福团队的研究人员将此称之为「模型自噬障碍（MAD）」。
而当下的中文互联网，AIGC作品正在走向泛滥。在已经公布数据的平台中，微信视频号AI生成内容占比已经达到了30%。
其它平台上，AI生成内容也肉眼可见地攀升。这一次封禁，小红书上的一条评论得到了高赞：这是好事，每次搜资料搜素材出来全是大批大批的AI，想找到正经参考的都难。
大刀阔斧砍向AIGC的平台，有点像是在治理一场数字领域的「蝗灾」，目的不是为了「灭绝」，先从整体数量规模上减少，再从生态环境中防治劣质内容的生产。
面向未来，AIGC创作者又该何去何从？
有人总结了一条「532法则」，即：50%的人工，原创案例、真实情感、独家观点；30%的AI，数据整理、框架搭建、标题优化；20%的工具，用ContentAny等去除AI痕迹。
但这些经验是否奏效，谁也无法保证。又或者说，当下奏效的经验，几个月后是否依然可行，没人知道。
所有人都要习惯这种不确定性。
本文为专栏作者授权创业邦发表，版权归原作者所有。文章系作者个人观点，不代表创业邦立场，转载请联系原作者。如有任何疑问，请联系editor@cyzone.cn。
