AI生成内容强制“打标”,内容安全治理迈出关键一步
来源:新华网 | 作者:Enrol | 发布时间 :2025-09-03 | 37 次浏览 | 分享到:

应用分发平台则需在应用程序上架或上线审核时,核验服务提供者是否按要求提供生成合成内容标识功能。

《标识办法》的实施对普通人而言,通过显性标识对AIGC进行鉴别可以更加清晰地认识接收到的信息是否可信。但从落地实践来看,《标识办法》并不能彻底地杜绝AI生成谣言、假消息的产生。

例如,对于显性标识,用户可以删除相关文字及标识图形来去除;对于隐性标识,用户也可以通过转码等方式进行一定程度的规避。也就是说,基于标识的识别无法对于恶意用户发布的内容进行精准鉴别。

“AI生成也只是谣言等产生的工具,没有AI的时候也存在同样问题。”中伦文德律师事务所上海办公室高级合伙人王祺律师对新华网表示,AI生成内容应用的风险是无法完全规避,“对于恶意使用者,即使没有AI也可以通过雇佣人来批量产生造谣内容。”

从权、责、利层面来看,王祺还指出,内容发布平台或将承担更多的责任,“从尽量平衡生成式人工智能的收益与风险的角度,除了要求人工智能应用服务提供者尽到更加严格的注意义务外,建议监管使内容发布平台承担更多的责任。”

例如,如果AI生成内容只有在内容发布平台算法的助推下才会吸引更多人的关注,而目前算法难以真正对于非正常流量增长的谣言等进行及时控制。“内容生成平台欲思算法推送流量之利,则也应尽相应的内容监管之义务。这也是权责相适应的价值要求。”王祺对新华网说。

鉴于《标识办法》在落地实践中所面临的挑战,从技术层面,任奎教授建议,大力发展安全保证的内容隐式标识技术。“利用内容隐式标识的鲁棒性与难以去除能力,配合显式标识和元数据隐式标识共同维护基于标识的内容治理体系。”

最后,标识是AI生成内容治理迈出的关键一步,但它只是多层次防控体系的一部分。要真正规避风险,还需要细化法律法规、建立行业自律标准、加大执法力度和国际合作。

“AI生成内容跨国传播时,数据主权归属与执法管辖权争议频发。如何在全球化背景下实现跨境的AIGC执法也是面临的挑战之一。”任奎教授表示,“进一步推动技术标识协同,建立跨境执法互助机制。与‌‘一带一路‌’‌国家、金砖国家联合构建互认标识体系,并推动AI生成内容快速响应机制,支撑跨境执法是未来内容治理的重点方向之一。