[智能应用]AI生成内容开始强制打上“电子水印”，虚假信息能有效杜绝吗 [复制链接]

9月1日起，AI生成内容必须依法打上“电子水印”。
今年3月，国家网信办等四部门联合发布了《人工智能生成合成内容标识办法》（以下简称《标识办法》）。《标识办法》指出，利用人工智能技术生成的文本、图片、音频、视频、虚拟场景等信息，必须添加显式和隐式两种标识。显式标识指可以被用户明显感知到的标识，隐式标识指在生成内容的数据中添加的标识。
标识AI生成内容，内容发布者负主要责任
澎湃新闻梳理社交媒体平台相关用户协议发现，B站、抖音、微博、小红书等平台要求内容发布者主动标识AI生成内容。对于不主动标识AI生成内容的行为，部分平台采取了限流、下架内容、封号等措施。抖音还对未主动标识AI生成内容的行为，采取取消营利、抹除粉丝等措施。
此外，大部分平台对未标识的AI生成内容采取了“自动标记”的补漏措施，但实际效果差强人意。记者使用“AI图像”在各平台检索后，依然能够找到大量未标示的AI生成内容。值得一提的是，部分平台对AI标识的有关规定，最早可以追溯到《标识办法》出台前。这意味着很多平台在治理AI生成内容标识上做了长期的实践和探索，仅依靠平台规则和防范机制，很难完全规避未标示AI生成内容的传播。广东财经大学法学院教授姚志伟在接受南都记者采访时表示，新规对内容传播平台提出的技术要求较高，中小内容平台能否有效落地执行还需观察。
内容发布者不主动标识AI生成内容的原因是多种多样的，但本质还是想吃到AI内容带来的流量以及起号、变现红利。一项关于深度伪造内容AI标识对用户态度及转发意愿影响的研究指出，内容发布者的标识提醒能够有效激发用户对深度伪造内容的识别和处理，但会降低用户对发布内容的态度和分享意愿。
平台对AI生成内容可以说是“又爱又恨”。一方面，AI生成内容是热门内容创作赛道，抖音、小红书等平台都推出了扶持AI内容创作的计划，给与AI生成内容流量倾斜和推广；另一方面，一些用户在使用AI起号、做号时没有底线思维，传播谣言、虚假信息、色情擦边内容的违规行为屡禁不止。
造谣、擦边、换脸是AI滥用的重灾区
2025年4月，中央网信办开展了为期3个月的“清朗·整治AI技术滥用”专项行动。上海市委网信办指导小红书、哔哩哔哩、拼多多等15家重点网站平台，共拦截清理相关违法违规信息82万余条，处置违规账号1400余个，下线违规智能体2700余个。经整治，网络违规AI信息显著减少。

澎湃新闻统计B站、小红书、微博发布的“清朗·整治AI技术滥用”治理周报典型案例发现，虚假宣传（谣言）、低俗擦边、违规营销推广AI产品信息（AI换脸、换声等）是各平台比较突出的共性问题。此外，B站在AI技术滥用的治理重点中还将以下内容列为违规内容，包括AI生成国际军事虚假内容、AI生成低俗猎奇视频、AI生成虚拟外国幼儿教育专家教授育儿内容、AI生成历史人物穿越、AI大模型助 考/高考押 题预测等。
据网信上海消息，通过政策指导、生态协同与技术落地，稀宇科技、阶跃星辰、通义、小红书、哔哩哔哩、Soul等已基本完成显式标识规范上线，加快开发上线隐式标识和传播链互认验证，小红书牵头编制图片模态元数据标识实践指南，上海标识工作取得阶段性成效。

AI生成内容强制打上“电子水印”：新规解读与影响

自2025年9月1日起，AI生成内容必须依法打上“电子水印”，这是根据今年3月国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》（以下简称《标识办法》）的要求。该规定旨在加强对AI生成内容的管理，防止虚假信息的传播。

《标识办法》主要内容

《标识办法》指出，利用人工智能技术生成的文本、图片、音频、视频、虚拟场景等信息，必须添加显式和隐式两种标识。具体而言：

- 显式标识：指可以被用户明显感知到的标识，如文字、声音、图形等。
- 隐式标识：指在生成内容的数据中添加的标识，通常不易被用户察觉。

内容发布者的主要责任

根据澎湃新闻的报道，B站、抖音、微博、小红书等社交媒体平台已经要求内容发布者主动标识AI生成内容。对于不主动标识的行为，平台采取了多种惩罚措施，包括限流、下架内容、封号等。抖音还对未主动标识的行为采取了取消营利、抹除粉丝等严厉措施。

平台的补漏措施

尽管大多数平台已经采取了“自动标记”的补漏措施，但实际效果并不理想。记者在各平台检索后仍能找到大量未标示的AI生成内容。这表明，仅依靠平台规则和防范机制，很难完全规避未标示AI生成内容的传播。

新规的技术挑战

广东财经大学法学院教授姚志伟在接受南都报采访时指出，新规对内容传播平台提出了较高的技术要求。特别是对于中小内容平台来说，能否有效落地执行还需观察。

内容发布者的动机

内容发布者不主动标识AI生成内容的原因多样，但主要是为了获取流量和变现红利。研究表明，内容发布者的标识提醒能够有效激发用户对深度伪造内容的识别和处理，但同时会降低用户对发布内容的态度和分享意愿。

平台的双重态度

平台对AI生成内容的态度复杂。一方面，AI生成内容是热门内容创作赛道，许多平台推出了扶持计划，并给予流量倾斜和推广。另一方面，一些用户在使用AI起号、做号时缺乏底线思维，传播谣言、虚假信息、色情擦边内容等问题频发。

AI滥用的重灾区

造谣、擦边、换脸是AI滥用的重灾区。2025年4月，中央网信办开展了为期3个月的“清朗·整治AI技术滥用”专项行动。据统计，共拦截清理相关违法违规信息82万余条，处置违规账号1400余个，下线违规智能体2700余个。

典型案例

澎湃新闻统计显示，虚假宣传（谣言）、低俗擦边、违规营销推广AI产品信息（如AI换脸、换声等）是各平台较为突出的问题。此外，B站还将AI生成国际军事虚假内容、低俗猎奇视频、虚拟外国幼儿教育专家育儿内容等列为违规内容。

政策指导与技术落地

通过政策指导、生态协同与技术落地，稀宇科技、阶跃星辰、通义、小红书、哔哩哔哩、Soul等平台已基本完成显式标识规范上线，并加快开发上线隐式标识和传播链互认验证。小红书还牵头编制了图片模态元数据标识实践指南。

总体来看，《标识办法》的实施将有助于提高AI生成内容的真实性和透明度，减少虚假信息的传播。然而，要实现这一目标，还需要各方共同努力，不断完善技术和监管机制。

AI生成内容电子水印新规的核心要求
2025年9月1日起，《人工智能生成合成内容标识办法》正式施行，要求所有AI生成内容必须依法添加电子水印，覆盖文本、图片、音频、视频、虚拟场景等多种类型13。标识方式分为显式与隐式两种：显式标识需以文字、声音、图形等用户可直接感知的形式呈现，例如在内容界面标注“AI生成”；隐式标识则嵌入文件元数据中，包含生成者名称、内容编号等关键信息，如同为内容添加“数字DNA”345。

电子水印对虚假信息治理的积极作用
提升内容溯源能力：隐式标识通过元数据记录内容来源，平台可借助技术手段快速识别AI生成内容，为虚假信息追踪提供依据。例如，若发现冒充公众人物的AI视频，可通过隐式标识追溯制作方36。
强化用户风险意识：显式标识能直接提醒用户内容为AI生成，研究表明此类标识可有效激发用户对深度伪造内容的识别和处理能力，减少因信息误判导致的传播行为1。
降低侵权诈骗风险：新规实施后，AI换脸、声音克隆等技术的滥用将受到遏制。例如，此前出现的“奥运冠军AI形象直播卖货”等侵权案例，可通过电子水印快速验证真实性，保护肖像权与个人信息35。
虚假信息治理面临的挑战
平台执行能力差异：大型平台虽已探索AI内容标识机制（如抖音、微博要求发布者主动标识），但中小平台受技术门槛限制，可能难以有效落地隐式标识等复杂技术要求1。
发布者逐利动机驱动：部分用户为获取流量及变现红利，刻意规避标识义务。尽管平台采取限流、封号等措施，但仍存在大量未标示的AI内容，自动标记技术的实际效果亦有待提升1。
技术对抗与规避风险：AI生成工具的迭代可能催生新的标识规避手段，如通过剪辑、格式转换等方式去除水印，导致治理难度增加3。
综合治理的补充路径
完善法律与技术协同：在电子水印基础上，需进一步明确AI虚假信息的法律责任，例如对恶意传播者追究民事或刑事责任，形成“技术标识+法律惩戒”的双重约束36。
强化用户媒介素养：平台与监管部门可通过科普宣传，帮助公众掌握AI内容识别技巧（如留意显式标识、验证异常音视频细节），培养理性信息消费习惯36。
推动行业自律与标准统一：鼓励AI服务提供者建立行业规范，统一标识格式与技术标准，同时加强对扶持AI内容创作计划的监管，避免流量倾斜沦为虚假信息传播的助推器12。
结论：电子水印为治理基础，但非“万能钥匙”
电子水印新规通过技术手段为AI内容打上“防伪标签”，在源头治理虚假信息方面迈出关键一步，能有效减少明显违规的AI内容传播13。然而，虚假信息的根治需技术、法律、用户教育等多维度协同。未来，需持续优化标识技术、压实平台责任、提升公众警觉性，方能构建更安全的数字内容生态。正如专家所言，新规如同“防盗门加密码锁”，但仍需每个人“养成见风识浪的习惯”，共同抵御AI虚假信息风险