【社论】治理“AI泔水”,捍卫真实内容生态

近日,全国首例AI代写种草笔记不正当竞争案尘埃落定,法院明确宣判批量生成并诱导发布虚假种草内容的AI工具构成侵权,为治理虚假种草、“AI泔水”,打造清朗的舆论环境提供了明确的司法指引。
一款付费AI写作工具瞄准社交平台种草生态,以“一键生成爆款笔记”“批量矩阵起号”为噱头,无需使用者有真实消费、旅游体验,仅凭几个关键词就能快速生成绘声绘色的种草文案、探店攻略,这些AI写作工具以月卡、年卡、终身会员等付费模式牟利,诱导用户将虚假内容发布至社交平台。
假作真时真亦假,这种AI工具生成的内容既误导消费者决策,侵害消费者知情权与选择权,也挤压真实创作者的生存空间,关键是会让社区失去“人味”,变成了一摊“AI泔水”。原告认为,这一服务的提供者破坏了该社交平台真实的种草内容生态,向法院提起诉讼。
杭州市中级人民法院明确,原告通过长期经营积累的真实内容生态,属于受法律保护的竞争性权益,而被告通过特定的AI内容生成工具,诱导用户发布未经真实体验的文案内容,构成不正当竞争。
这一判决为生成式人工智能服务提供者划定了合理的注意义务边界:恶意诱导用户通过AI工具生成虚假的种草笔记,侵害了相应平台的网络生态,有悖于法律,构成不正当竞争。也是在司法层面上,对AI批量洗稿、造假说不。
AI工具大幅降低了内容造假的成本,只要几个提示词就能生成海量的、看起来像模像样的种草笔记。这些内容里面可能含有大量的“AI幻觉”信息,误导受众;AI生成内容规模巨大、廉价,严重挤占了人工创作内容的份额空间,形成“劣币驱逐良币”的局面。而且,AI工具的庞大内容生成产能,从根本上破坏了社区种草-引流-回馈的商业模式,一旦放任,对商业环境是竭泽而渔、饮鸩止渴。
平台起诉此类“假笔记”的生产工具,希望维护原创生态、保护知识产权、捍卫“人”的尊严的态度,也得到了司法机关的明确支持。
当下处于AI技术大爆发前夜,要确保这一颠覆性技术向上向善,保证在AI技术条件之下,网络生态的清朗健康,以制度保证人的价值、真实的力量,避免未来陷入“AI泔水”汪洋泥淖中。
监管层面,《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等文件已陆续落地。今年以来,中央网信办全面部署推进规范短视频内容标注工作,明确网站平台必须为用户提供6类“必选标签”,其中包括“含有虚构演绎内容”“含有AI生成内容”“含有营销信息”“内容为转载”等,推动AI生成内容的强制标注,以推动共同打造健康、有序、可信的短视频环境。
让真实回归网络,让原创照亮数字空间,必须拿出有效措施治理“AI泔水”对原创生态造成的破坏和冲击,要保护“人”的劳动创作。
