随着互联网全面渗透未成年人成长过程，网络风险形态不断翻新。上海市委网信办近日召集17家属地平台，召开未成年人网络保护专题指导会，明确提出防范化解七类心理健康风险，标志着治理逻辑从“事后处置”走向“源头预防”。值得注意的是，AI工具在这场攻防中既是新的风险变量，也可成为治理抓手。
治理逻辑之变：从“被动处置”到“源头预防”
过去，针对未成年人网络保护的专项行动往往聚焦于清理有害信息、查处违规账号，本质上是一种“事后处置”模式。但这次会议释放出一个强烈信号：仅仅删帖、封号远远不够，必须深挖风险产生的内在成因，将治理关口大幅前移。会议提出的“源头预防”理念，要求平台在算法设计、产品功能、内容推荐等环节就将未成年人保护前置，而不是等出了问题再补救。
这一转变与当前的企业数字化转型浪潮密切相关。数字化程度越高的平台，越有能力借助技术手段实现精细化管理。例如，通过分析未成年人用户的行为数据，可以在沉迷苗头出现前就进行干预；通过优化推荐算法，主动减少容貌焦虑、不良价值观等高风险内容曝光。源头预防的核心，是用技术洞察风险、用机制阻断扩散，这需要平台投入大量研发资源，也意味着更高的社会责任要求。
从治理效果看，事后处置好比救火，源头预防则像防火。救火再及时，损失已经造成；而防火能将风险扼杀在萌芽状态。会议通报的典型案例表明，很多未成年人心理创伤一旦形成便难以逆转。因此，这次治理逻辑的升级，既是对平台主体责任的一次压实，也是对未成年人权益保护体系的一次系统性补强。
七类风险详解：网络沉迷、欺凌与容貌焦虑
会议梳理了当前威胁未成年人心理健康的七类风险，每一条都指向具体而普遍的现象。网络沉迷成瘾风险首当其冲，短视频、游戏等产品通过算法无限供给，容易导致未成年人作息失调、注意力下降、厌学逃避。网络欺凌则借助匿名身份和群组传播，受害者可能长期陷入孤立无援的心理创伤。容貌身材焦虑在“美颜滤镜”和“网红审美”裹挟下愈演愈烈，让不少青少年萌生自卑情绪。
更令人警惕的是自残自杀类消极有害信息的传播。这类内容往往隐藏在“抑郁分享”等话题下，极具感染力和模仿性，平台稍有不慎就可能成为帮凶。线上社交过度挤占现实交往，也导致部分未成年人社交能力弱化，甚至被极端对立信息误导。而随着AI Agent技术的发展，AI换脸、虚拟人设带来的情感操控问题成为全新风险点——不法分子可以伪造偶像形象与未成年人建立虚拟亲密关系，进而实施诈骗或精神控制。最后，拜金主义、享乐主义等不良价值观传播，会在潜移默化中扭曲未成年人的价值判断。
这七类风险并非孤立存在，它们往往相互叠加。比如网络沉迷可能加剧线上社交依赖，容貌焦虑后又容易滑向自残自伤。因此，平台在识别和处置时必须具备系统性思维，不能单点作战。
AI工具的双刃剑：风险源头还是治理利器？
在七类风险中，“AI技术衍生新型侵害风险”首次以独立条目形式被写入监管要求，这在以往并不多见。AI换脸、语音合成、虚拟人设等技术原本是娱乐和创作工具，却被滥用为情感操控、诈骗乃至色情内容生成的工具。例如，有犯罪分子利用文生图技术生成虚假的明星照片，伪装身份诱导未成年人发送私密信息。技术的逼真度越高，识别难度越大，对未成年人的迷惑性也越强。
然而，AI工具绝不仅仅是风险源头。在治理端，AI同样展现出强大的“反向制衡”能力。目前已有科技公司开发出深度合成内容检测引擎，能在毫秒级判断一段视频是否经过AI换脸；自然语言处理模型可以精准识别网络欺凌、自残等隐含表达的文本，并触发预警。本质上，AI就像一柄双刃剑——用之善，可以成为保护未成年人心理健康的“数字哨兵”；用之恶，则会变成制造侵害的“隐形刀片”。
关键在于如何管好这把剑。会议要求平台“规范AI功能应用管理”，意味着生成式AI产品需要嵌入针对未成年人的风险过滤机制。例如，AI绘画工具在涉及敏感元素时自动降级或干涉，社交产品中对AI虚拟人设进行明确标识。技术的归技术，监管的归监管，两者结合才能真正让AI工具扬长避短。
平台自治新路径：算法调控与未成年人模式升级
会议提出的治理措施覆盖算法、产品、举报渠道、内容识别、AI管理、营销管控、正向供给等七个关键环节。其中最值得关注的是“算法调控”和“未成年人模式迭代升级”。长期以来，算法推荐被认为是未成年人沉迷的元凶之一，但简单粗暴地关闭算法并非良策。更好的做法是将未成年人模式下的推荐策略改为“价值取向优先”：减少刺激性强、猎奇向内容，增加知识科普、文学艺术等正向内容。
这种调控背后离不开大模型的支持。通过大模型训练，平台可以构建针对未成年人的内容分级模型，对视频、图片、文本进行多模态理解，精准拦阻高风险信息。同时，未成年人模式不应只是一个“时间锁”，而应进化为内容生态的“净化器”。例如，当系统检测到用户连续浏览减肥、整容类内容超过一定阈值时，自动推送身体多样性科普，并插入心理援助入口。
会议要求“优化防护举报渠道”，这意味着平台需要降低未成年人的求助门槛。一键举报、匿名举报、语音举报等形式正在成为科技产品标配。此外，“从严管控不良营销行为”指向针对未成年人的黑灰产链条，如利用焦虑营销售卖“增高药”“丰胸产品”等。这些措施共同构成一个闭环：算法不推送、内容不出现、举报有回应、求助有门路。
科技产品如何破局：从被动合规到主动创造价值
在监管压力下，许多平台最初将未成年人保护视为“合规成本”。但这次会议揭示了一个趋势：未成年人网络保护正在成为科技产品竞争力的重要维度。家长越来越愿意为孩子选择“干净、有益”的App，企业如果能在保护方面做出特色，反而能赢得口碑。
比如，B站、小红书等内容社区可以开发专属的“青少年创作训练营”，利用AI画图和AI诗词等工具，引导青少年以创意表达替代被动刷屏。当孩子能在AI的帮助下生成一幅画、写一首诗时，他们的成就感不亚于在游戏中升级，而且这种活动天然健康。这正是用“疏”代替“堵”的智慧。阅文集团、米哈游等平台也可以将游戏中的正向角色故事化，融入抗逆力、团队合作等心理素养内容。
同时，科技产品需要建立“未成年人保护评估机制”，在功能上线前进行风险预判。比如，拼多多等电商平台要筛查不适合未成年人的商品和营销话术；Soul等社交平台要在陌生人推荐中设置保护屏障。这些实践看似增加成本，实则是将社会责任转化为品牌资产。未来，家长通过AI工具导航选择儿童应用时，会更加倾向于那些主动拥抱监管、持续投入保护技术的产品。
协同共治与数字素养：打造未成年人健康上网生态
未成年人网络保护是一项系统工程，仅靠平台自律远远不够。下一步，上海市委网信办将加大对网站平台常态化巡查、抽检和执法力度，对问题突出的平台依法从严处置。这种“监管长牙”的态势，将倒逼企业真正把未成年人保护植根于业务逻辑，而不是停留在声明中。
与此同时，家庭和学校的角色同样关键。会议提出要提升未成年人网络素养，培养文明上网行为习惯。这意味着不应一味禁止上网，而是教会孩子认识风险、管理时间、辨别真伪。在这一过程中，AI技术也能赋能教育：例如通过互动式AI课程模拟网络社交困境，让未成年人在“安全环境”中学会拒绝网络欺凌。
展望未来，AI工具与社会治理的融合会越来越深。监管者可以利用AI进行全网智能巡查，平台可以通过AI实现个性化保护，家长则可以借助AI产品实时了解孩子的网络使用状态。尽管技术不能解决全部问题，但“技术+制度+素养”三位一体的防线，将为未成年人构筑起更有韧性的心理防火长城。
在这场数字化转型的浪潮中，科技产品不再只是“风险制造者”，更有机会成为“解决方案的一部分”。我们期待看到更多有温度、负责任的创新，让下一代在数字世界里安全地成长、自由地创造。