当熟悉的动画角色被AI重新加工,当隐蔽暗语成为不良信息传播的新方式,一些原本看似正常的网络内容,正在以更隐蔽的形式影响未成年人的数字生活。

近期,小红书在未成年人保护治理开放日公布,今年7月至9月,平台处置AI魔改、毒动画等违规笔记超过12万篇,并针对小圈层暗语建立自进化语义识别体系,日均学习新暗语超过2000个。

这些数据背后,是网络内容生产和传播方式变化带来的治理难题:风险信息不再局限于直白的文字和图片,而是可能藏在AI生成内容、复杂语境和隐蔽表达之中。

如何识别、分类并有效治理这些信息,成为未成年人网络保护需要面对的重要课题。

此前,在2026年未成年人网络保护国际研讨会上,团体标准T/CFIS 0021-2026《未成年人网络保护 可能影响未成年人身心健康的网络信息分类实施指南》(以下简称《分类实施指南》)正式发布。作为核心参编单位,网易智企旗下易盾深度参与标准研究与编制,结合内容安全实践,持续探索标准要求在企业业务场景中的落地路径。

从AI魔改到网络暗语,内容治理面临哪些新挑战?

网络内容治理的难度,正在随着技术和传播方式的变化而提升,主要体现在三个方面。

AI生成与二次创作,让风险内容更加隐蔽

AI工具降低了内容创作门槛,一些原本正常的动画、图片和视频,可能经过二次生成、剪辑和拼接,被赋予暴力、低俗或不良价值导向等内容。尤其在儿童动画、短视频等场景中,风险信息可能借助熟悉的角色形象传播,增加识别难度。

网络暗语和圈层表达,让风险识别更加复杂

一些不良信息通过谐音、缩写、符号替代和隐喻等方式进行包装,传统关键词审核容易出现遗漏,也可能因缺乏上下文判断而误伤正常交流内容。这要求审核能力从固定词汇匹配转向语义理解,并能够持续更新。

未成年人形象与个人信息保护,需要更加细致的场景研判

在短视频、直播和社交互动中,未成年人形象可能被不当使用,个人信息也可能通过图片背景、文字描述、账号信息等渠道间接披露。这类风险需要结合使用目的、呈现方式和传播场景进行综合判断。

这些变化意味着,未成年人保护已经从单一内容审核问题,延伸至内容生产、信息使用、传播分发和平台运营等多个环节。

未成年人网络内容治理的三大新挑战信息图

四大类风险,团标划出了哪些治理重点?

面对不断变化的网络内容形态,治理的关键不仅是扩大审核范围,更重要的是建立清晰的风险分类标准。《分类实施指南》将可能影响未成年人身心健康的网络信息划分为四大类别,为相关主体识别风险、制定管理策略提供参考。

可能引发或诱导未成年人模仿不良行为的信息

治理重点在于识别内容是否可能对未成年人的行为产生不良引导,例如通过谐音、暗语传播不良信息,或借助短视频、剧情演绎诱导未成年人模仿危险行为。平台需要结合内容本身及上下文语境进行判断。

对未成年人价值观产生负面影响的信息

这类风险可能通过剧情设计、人物设定和价值观输出等方式影响未成年人。例如借助儿童熟悉的动画形象包装不良价值导向,或通过内容宣扬畸形审美、极端情绪等,需要结合内容主题和整体表达进行综合研判。

不当使用未成年人形象的信息

随着短视频、直播和AI生成技术的发展,未成年人形象的使用场景更加丰富。部分内容可能通过恶搞、摆拍演绎或不适宜的营销传播消费未成年人形象,治理时需要关注使用目的、呈现方式和传播场景。

不当披露、使用未成年人个人信息的信息

除了直接公开姓名、联系方式等信息,还需要关注图片背景、学习生活场景、账号信息等内容中可能包含的身份线索,以及多条信息组合后形成的隐私泄露风险。

从四大类别可以看到,《分类实施指南》并非简单增加审核敏感词,而是从行为引导、价值导向、形象使用和个人信息保护四个维度,帮助企业建立更加系统的风险认知。

此外,标准还围绕显著提示、内容生产者与平台责任划分等提出实施参考,并关注未成年人模式、算法推荐、AIGC生成内容及MCN机构和创作者管理等场景,推动保护要求融入内容生产、审核、分发与运营环节。

分类实施指南四类风险信息四宫格图

不只是审核内容,企业还要做好这几件事

有了分类标准,并不意味着企业就能直接解决所有治理问题。真正的难点在于,如何将相对抽象的风险类别转化为可执行的审核规则,并适配不同业务的内容特点。

识别能力需要从单一模态走向多模态

当前网络内容往往融合文字、图片、音频和视频,单独分析某一个元素,很难完整理解其表达含义。企业需要结合不同模态的信息开展综合识别,提升复杂内容场景下的风险发现能力。

审核策略需要从固定规则走向动态更新

网络暗语、谐音表达和圈层用语持续变化,企业需要结合业务反馈更新风险特征、语义规则和审核模型,并建立人工复核及策略迭代机制,在提升风险发现能力的同时减少机械审核带来的误判。

治理范围需要从内容审核延伸至全链路管理

风险可能发生在内容创作、上传、审核、推荐、互动和二次传播等环节。企业需要将内容识别、风险提示、审核处置和运营监测结合起来,形成覆盖内容生命周期的安全管理机制。

企业需要补齐的三大治理能力架构图

让标准真正落地,易盾提供全栈未成年人保护解决方案

标准为行业提供治理方向,而技术能力决定了相关要求能否在实际业务中得到有效执行。

作为网易智企旗下的安全业务,易盾长期深耕内容风控与人工智能安全领域,围绕文本、图片、音频、视频及AI生成内容,持续完善多模态内容识别与风险审核能力。

全模态内容风控,提升复杂风险识别能力

针对AI魔改、毒动画、隐蔽暗语等新型风险,易盾依托多模态内容风控能力,支持对文本、图片、音频、视频等内容开展风险识别与审核,结合语义理解、内容特征及业务场景,辅助识别不同形式下可能存在的不良信息。

AI内容安全治理,关注生成式内容带来的新风险

随着AIGC应用普及,企业需要关注AI生成、修改和传播过程中可能产生的新型风险。易盾持续完善AI生成内容识别与审核能力,结合不同内容形态和业务场景,帮助企业识别潜在风险,并将审核能力融入内容生产与发布流程。

结合业务场景配置审核策略,推动全链路治理

不同平台的用户群体、内容形态和业务模式存在差异。易盾支持企业结合自身业务特点配置审核策略,通过AI审核与人工复核相结合的方式,对不同风险内容进行识别、判定和处置,帮助企业逐步完善内容发布、审核、传播及运营等环节的风险管理机制。

从内容识别到风险处置,从单条信息审核到业务链路治理,易盾持续通过内容安全技术能力,帮助企业将标准要求转化为实际业务中的安全保障能力。

易盾未成年人网络保护体系架构图

让技术向善,为未成年人撑起安全屏障

未成年人网络保护不是单一平台或某项技术能够独立完成的工作,而是需要政策法规、行业标准、平台责任和技术能力共同发挥作用。

从近期平台治理实践可以看到,AI生成内容、网络暗语、未成年人形象不当使用等问题,正在推动内容安全治理向更加精细化、系统化的方向发展。相关法规和标准体系也在持续完善,为企业落实未成年人网络保护责任提供更加明确的依据。

未来,易盾将继续加强与行业组织、科研机构及产业伙伴的交流合作,积极参与标准建设与技术实践探索,持续提升多模态内容识别与AI安全治理能力,助力企业应对不断变化的内容风险,共同营造更加安全、健康、清朗的网络环境。