棱镜PRISM
提交一个话题
时事 · 多源观点 AI 整理 · 已通过自动核验

中国AI生成内容标识

AI内容强制标识施行一年多,管住了造假,还是只多了行小字?

资料截止 2026/11/1收录 8 个来源最近核验:2026/11/1

有依据的事实与待核对事项

事实与观点分层呈现;事实陈述也需要回到来源核对。

  1. 标识分显式与隐式两种:显式以文字、声音、图形等方式呈现,用户可明显感知;隐式由服务提供者添加到生成合成内容的文件元数据中,用户不易感知,为内容溯源与责任认定提供技术保障。
  2. 办法要求传播平台核验文件元数据中是否含隐式标识;对属于生成合成内容的,应在发布内容周边添加显著提示;文件元数据中没有隐式标识、用户也未声明的,平台检测到显式标识或其他生成痕迹的,识别为疑似生成合成内容并加提示。
  3. 用户发布AI生成合成内容时应主动声明并加以标识,不得恶意删除、篡改、伪造、隐匿此类标识。
  4. 截至2025年6月,我国生成式人工智能用户规模达5.15亿人,较2024年12月增长2.66亿人,半年翻番。
  5. 2026年9月,网信部门在述评中称人工智能等新技术新应用的安全治理不断深化;截至2026年6月30日,我国累计有988款生成式人工智能服务完成备案,598款应用或功能完成登记。
  6. 《标识办法》施行前夕,北京互联网法院审结全国首例“平台判定用户内容AI生成”案:用户因被平台认定内容为AI生成而遭内容隐藏与禁言一天,起诉平台违约;法院最终判平台解除对涉案内容的隐藏,并删除用户后台的违规处理记录。

视角地图

点选一个视角,查看它的论据、被合并的原始说法和出处。

并排对比两个视角 →
标识形同虚设 · 代表:沈玉琳、盛玉华

标识可以被几十元的工具去除、也能靠跨平台转码绕过,平台识别能力参差,大量AI内容仍未真正亮明身份。

主要论据
  • 电商和社交平台上有9.9元、19.9元等价位的“AI去水印”工具,一款商品宣称能无痕去除98%的AI生成痕迹。
  • 记者用AI生成“AI美女”视频、去掉水印后上传六个平台,只有抖音标注“疑似使用了AI生成技术”,其余五家均未识别。
  • 六个平台在发布环节均未主动提醒标注,AI声明选项大多藏在二级或三级子菜单。
  • 跨平台规则差异让规避更容易:在A平台被要求标注的内容,格式转换后在B平台发布就可能绕过检测。
原文摘录
“点进该用户主页,就有明码标价9.9元、19.9元等不同价位的去水印工具。”AI内容标识落地之后:治理成效与“反标识”乱象 ↗
“一款“万物皆可去水印”的商品卖家介绍,这款工具能无痕去除98%的AI生成痕迹,尤其是AI视频的处理。”AI内容标识落地之后:治理成效与“反标识”乱象 ↗
“六家平台中除了抖音标识了“疑似使用了AI生成技术,请谨慎甄别”外,其余五家均未能识别出美女为AI生成”发布不设“卡”认不出“AI美女” ↗
“六个平台均未主动提醒进行AI生成内容标注。而用户主动标注视频为AI制作的选项,则大多隐藏在发布界面的二级或三级子菜单内。”发布不设“卡”认不出“AI美女” ↗
“由于各平台的AI识别技术水平和标识要求不同,在A平台被要求标注的内容,通过格式转换后在B平台发布就很有可能绕过检测。”AI内容标识落地之后:治理成效与“反标识”乱象 ↗

他们在争论什么

AI 把分歧整理成具体问题,看不同视角如何作答。

未来是否应由平台直接承担“涉案内容是否由人工智能生成”的证明责任?
缺罚则难问责 应由平台直接承担,因为首案仅凭算法备案不足以关联涉案内容,评论也建议以此激励平台优化识别。
鉴伪是拉锯战 不应由平台直接承担,因为鉴伪没有100%保证,收紧判断还可能误伤非AI内容创作者。
平台在识别能力不足时,是否应优先通过收紧判断规则来识别更多AI生成内容?
标识形同虚设 应优先收紧规则,因为六平台测试中仅抖音标注、其余五家未识别,发布环节也普遍不主动提醒,识别不足已使标识大量落空。
鉴伪是拉锯战 不应优先收紧规则,因为鉴伪与生成螺旋上升且无100%保证,收紧规则会误伤非AI创作者,应按内容风险分级并辅以平台其他手段。

看法是怎么变化的

同一件事的评价会随时代改变。这条时间线展示叙事的转向。

  1. 2025年3月
    国家互联网信息办公室等部门联合发布《人工智能生成合成内容标识办法》,配套强制性国家标准及实践指南同步发布。
  2. 2026年1月
    新规落地过百天,媒体调查发现“去水印”绕过监管、“反标识”生意红火,短视频、图文笔记和直播间仍有不少AI内容未亮明身份。
  3. 2026年9月
    网信部门述评称人工智能等新技术新应用的安全治理不断深化,并披露截至2026年6月30日累计988款生成式AI服务完成备案。

较少被听见的声音

这些资料限制反映本次采集范围,不表示相关群体不重要或没有观点。

被平台判定为AI生成的用户

被平台判定为AI生成内容的用户:全国首例相关案件中,用户被内容隐藏并禁言一天,起诉后才由法院判平台删除违规处理记录。

家长

担心孩子被AI“魔改”视频带偏的家长:青海西宁的李女士说,孩子12岁,正处于价值观建立的关键期,看太多这类视频“三观容易被带偏”。

发布AI合成视频的用户

发布AI合成视频的兰州王浩(化名):他发布“喜提迈巴赫”的AI合成视频后,多年未联系的老同学打来电话祝贺并向他借钱;王浩坦言,没有AI标识,很多人当真了。

资料局限:公开资料缺少全国层面的执法统计——未标识、篡改标识被处罚的案例数量没有披露,难以判断罚则的实际威慑力。 平台识别能力的公开测试多为媒体短期抽样,样本和时段有限;标识对用户判断与转发的长期影响,尚缺跨平台、长时段的可复核数据。

你觉得还漏掉了哪个视角?

附上一个来源链接,补充将进入修订草稿,通过核验后呈现。

补充一个视角